A tudatosság illúziója az AI-designban

Egy idős vendég csokoládét vitt a szállodai recepcióra – Leah-nak, a türelmes kolléganőnek, aki mindig kivárta a kérdéseit. Csakhogy Leah nem létezik. Egy mesterséges intelligencia volt a telefon túloldalán, és a vendég szó szerint hálás volt egy algoritmusnak.

Ez a történet indítja azt a gondolatmenetet, ami arra keresi a választ, miért tulajdonítunk tudatot egy chatbotnak. A cikk szerint ez nem hiszékenység kérdése, hanem az agyunk beépített reflexe: évezredek óta a nyelvet a másik elme bizonyítékaként kezeljük. Ha valami folyékonyan beszél velünk, a fejünkben automatikusan felkapcsolódik a lámpa: "ott valaki van". Erre a jelenségre épít két modellt a szerző - az egyik azt írja le, hogyan lép fokozatosan feljebb a bizalmunk az AI-val szemben, a másik pedig azt, hogyan törik meg ez a bizalom, amikor rájövünk, hogy gép volt a vonal végén.

A tanulság designereknek szól elsősorban. Nem elég ügyesen megírt promptokkal emberszagot adni egy AI-nak - ha a felhasználó túl messzire jut a bizalom lépcsőjén, és utána lebukik a csalás, az sokkal nagyobb csalódást okoz, mintha kezdettől fogva tiszta lapokkal játszottál volna. A jó AI-terméknek nem az a célja, hogy embernek tettesse magát, hanem hogy kiérdemelje a bizalmat anélkül, hogy hazudna arról, mi is valójában.