A gép szemével: Amikor az AI kezd bennünket meghatározni

Mit csinálsz, amikor egy algoritmus kezd eldönteni helyetted, hogyan néz ki egy meleg nő vagy egy indiai fiatalember? Ronnie Alley, az ArtCenter College hallgatója pontosan ezt vizsgálta "Machine Gaze" című diplomamunkájában – és az eredmények elgondolkodtatók.

Alley négy kísérletben tesztelte, hogyan építi fel az AI az emberi identitást. Amikor kvír embereket kért le, a rendszer rögtön sztereotípiákba menekült: meghatározott ruházat, testtartás, testtípus – mind olyan jelzések, amiket a kulturális sablonokból tanult meg. De a legmegdöbbentőbb az volt, amikor semleges promptokat használt. "Egy leszbikus nő magabiztosan áll a fal mellett" – semmi extra. Mégis: túlnyomórészt fiatal, vékony, gyakran fehér emberek jelentek meg. A nők gyakrabban lettek szexualizálva, míg a férfiak öltönyben pózoltak. Az AI nem véletlenül dönt így – egyszerűen felerősíti azt, amit a tréningadatokból megtanult.

A legérdekesebb fordulat akkor jött, amikor különböző országok embereit kellett bemutatnia szövegesen. Itt nem sztereotipizált, hanem épp az ellenkezőjét tette: mindenkiből ugyanazt a globalizált városi szakembert faragta, aki jógázik és természetjáró. Az AI nem csak torzít, hanem összemossa is az identitásokat. A kérdés tehát nem az, hogy használjuk-e ezt a technológiát, hanem hogy hagyjuk-e, hogy ő határozza meg helyettünk, milyenek vagyunk.