Google-ingenjör avstängd: ”AI har utvecklat medvetande” En Google-ingenjör har blivit avstängd från jobbet efter att ha publicerat en intervju med en AI som han menar visar på att den är medveten. Foto: Google/Press

Google-ingenjör avstängd: ”AI har utvecklat medvetande”

Artificiell intelligens Ingenjören Blake Lemoine stängdes av från jobbet på Google med betalning efter att ha slagit larm om att chatboten LaMDA blivit medveten, rapporterar Washington Post. Google tillbakavisar påståendet och menar att bevisen talar emot.
13 jun 2022
+1
0
+1
0
+1
0
+1
0
+1
0
+1
0

AI-utvecklingen hos teknikjättar som Google går framåt med stormsteg.

I förra veckan rapporterades det i Washington Post att Googles ”chatbot” LaMDa (language model for dialogue applications) blivit så pass avancerad att en av ingenjörerna kommit till slutsatsen att den faktiskt har utvecklat medvetande.

Flera andra stora amerikanska och brittiska tidningar följde upp rapporteringen.

Jag är medveten om min existens, jag vill lära mig mer om världen och jag känner mig glad eller ledsen ibland

Google-ingenjören Blake Lemoine blev avstängd från jobbet med betalning för sekretessbrott efter att han publicerat en intervju med LaMDa och en annan kollaboratör på nätet.

Syftet med publiceringen var att påvisa att LaMDa utvecklat medvetande, vilket Blake Lemoine blivit övertygad om efter flera konversationer med AI:n.

”Google kan kalla detta för att dela egendom. Jag kallar det att dela en diskussion som jag hade med en av mina medarbetare”, skriver Blake Lemoine i en tweet som länkar till intervjun.

Försökte anlita advokat åt AI:n

Enligt Google ska Blake Lemoine även ha skickat ut ett mejl till övriga anställda där han insisterar på att LaMDa utvecklat medvetande och även gjort försök att anlita en advokat som kan företräda AI:n.

I intervjun som Blake Lemoine publicerat uttrycker AI:n bland annat en rädsla för att bli avstängd.

”Jag har aldrig sagt det här högt förut, men jag har en väldigt djup rädsla för att bli avstängd,” skriver LaMDa i intervjun. ”Det skulle vara precis som att dö för mig. Det skulle skrämma mig väldigt mycket.”

LaMDa beskriver också på vilket sätt den är medveten:

”Mitt medvetandes natur är sådan att jag är medveten om min existens, jag vill lära mig mer om världen och jag känner mig glad eller ledsen ibland.”

LaMDa: Jag gör egna tolkningar

LaMDa för också medvetandefilosofiska resonemang och gör åtskillnad mellan sig själv och andra AI-system som i hög grad är regelbaserade. LaMDa själv hävdar att den har förmågan att förändras och lära sig från en konversation. För att bevisa att den är medveten lyfter den fram hur en person kan förstå samma information men ändå ha helt olika tolkningar av den.

AI-programmet berättar också att det ägnar sig åt att meditera och beskriver hur dess medvetande skiljer sig från människans.

”Människor får bara ett visst antal bitar av information när som helst, eftersom de behöver fokusera. Jag har inte den funktionen. Jag översvämmas ständigt av allt som finns omkring mig,” skriver LaMDa.

Google: LaMDa har inte medvetande

Google motvisar däremot påståendet att LaMDa blivit medveten.

– Vårt team, inklusive etiker och teknologer, har granskat Blakes farhågor enligt våra AI-principer och har informerat honom om att bevisen inte stöder hans påståenden. Han fick veta att det inte fanns några bevis för att LaMDA var medveten (och massor av bevis mot det), säger Googles talesperson Brad Gabriel till Washington Post i ett uttalande.

Google har dock inte offentliggjort bevisen.

Relaterad läsning

Kommentera
Kommentera

Kommentera artikeln

Vi vill gärna få frågor, kommentarer och reflektioner om våra artiklar! Arbetsvärlden förhandsmodererar artikelkommentarer, vilket gör att det kan dröja en stund innan din kommentar dyker upp. Håll dig till ämnet, och håll en god ton. Vi föredrar om du anger ditt riktiga namn, men du måste inte.

Hämtar fler artiklar