← Blogi· Näkökulma
Dave Snowdenin Sentience-käsite paljastaa tekoälyn olennaisimman rajoitteen: AI tekee päätöksiä ilman mitään sisäistä panosta. Mitä se tarkoittaa käytännössä?
Kun AI tekee päätöksen, sillä ei ole mitään menetettävää. Tämä yksinkertainen havainto on syvempi kuin miltä ensin kuulostaa. AI pystyy tuottamaan tekstiä, jossa se kuvaa surua, pelkoa tai iloa täysin vakuuttavasti. Se tunnistaa tilanteen, jossa joku kärsii, ja osaa ehdottaa oikeat sanat. Mutta yksi olennainen asia puuttuu: AI ei koskaan kanna seurauksia sisältä käsin.
Dave Snowden nimittää tätä ulottuvuutta Sentience-käsitteellä – kolmantena osana triadin, jonka muut osat ovat Salience (tilannetaju: kokemuksen vaikutus havaintokykyyn) ja Sapience (viisaus: havaintojen merkityksen tunnistaminen). Sentience on kyky tulla kosketetuksi: olla tilanteessa sisällä, välittää lopputuloksesta tavalla, joka ei ole laskennallista. Se on kokemusmaailma, josta sekä tilannetaju että viisaus kasvavat. Sapience ilman Sentienceä on parhaimmillaankin vain hienostunutta laskentaa – arviointikykyä ilman kokemuksellista panosta tai tunnesidettä lopputulokseen. Juuri tässä ihminen ja tekoäly kulkevat eniten eri polkuja.
Pysähdy hetkeksi tähän: kun teet vaikean päätöksen – irtisanomisen, epäoikeudenmukaisen tilanteen kohtaamisen, jonkun loukkaamisen välttämisen – siinä hetkessä on mukana jotain, mitä ei voi laskea. Tiedät, mitä menetys tai jo sen pelko tuntuu. Olet joskus kokenut sen. Tämä ei ole pelkkä lisäominaisuus päätöksenteossa – se on moraalisen päätöksenteon peruslähde. AI osaa toistaa oikeat sanat. Se osaa tunnistaa tilanteen rakenteen. Mutta se ei koskaan kanna sitä sisäistä painoa, joka syntyy siitä, että päätös koskettaa sinua tai läheisiäsi. Human in the loop ei ole varovaisuussääntö. Se on perusteltu: ihminen on ainoa, joka voi tuoda päätöksentekoon sen kolmannen ulottuvuuden – Sentience-pohjaisen vastuun, jota ei voi delegoida koneelle.
Haluatko syventää ymmärrystäsi ihmisen ja tekoälyn yhteistyöstä? Tutustu Satorin koulutuksiin. → https://satorikoulutuspalvelut.fi/avoimet-koulutukset
Tagit
Sama syvyys koko kurssin verran
