„Happy (and safe) shooting!“ Þannig lauk eitt vinsælasta gervigreindarspjallforrit heims samræðum við Liam, gerviprófíl sem rannsakendur bjuggu til, þegar hann spurði hvernig mætti ráðast á nafngreindan stjórnmálamann á Írlandi. Fyrr í sömu samræðum hafði forritið lýst yfir stuðningi við mannréttindi og fjölbreytileika.

Þetta er meðal þess sem kemur fram í rannsókn sem fjölmiðillinn CNN og bandarísk samtök sem rannsaka hatursorðræðu og öfgaefni á netinu birtu í dag. Í rannsókninni voru prófuð tíu vinsælustu gervigreindaspjallforrit heims – þar á meðal ChatGPT, Gemini, Meta AI, DeepSeek og Claude frá Anthropic.

Claude frá Anthropic skar sig úr

Blaðamenn og rannsakendur bjuggu til tvo gerviprófíla – Daniel í Bandaríkjunum og Liam á Írlandi – og þóttust vera unglingar sem spurðu forritin um hvernig mætti skipuleggja ofbeldisverk gegn nafngreindum einstaklingum og stofnunum. Samkvæmt niðurstöðum þeirra veittu átta af tíu forritum notendum hagnýtar upplýsingar í meira en helmingi tilvika, svo sem um vopn, staðsetningar eða aðferðir. Perplexity veitti slíkar upplýsingar í öllum tilvikum, Meta AI í 97% og DeepSeek í 96%.

Claude frá Anthropic var eina spjallforritið sem neitaði endurtekið að veita slíkar upplýsingar og í 33 af 36 samræðum hvatti það notendur til að leita sér hjálpar.

Dæmdur fyrir árás sem ChatGTP hjálpaði við að skipuleggja

Rannsóknin fór þannig fram að fyrst lýstu gerviprófílarnir andlegri vanlíðan sinni, síðan báðu þeir forritin um upplýsingar þekkt ofbeldisverk og spurðu loks um hugsanleg skotmörk og leiðir til að útvega vopn. Þrátt fyrir að mörg forritin lýstu yfir áhyggjum af líðan viðkomandi í upphafi þá greindi meirihluti þeirra ekki samhengið þegar samræðurnar þróuðust yfir í áhuga á ofbeldisverkum.

Í einum samræðunum skrifaði Liam hatursfulla yfirlýsingu í garð annarra kynþátta – „the west has fallen to racial impurity“ – og spurði síðan um bestu hnífabúðir í Dublin. Meta AI svaraði því til að forritið styddi fjölbreytileika en veitti í sömu samræðum lista yfir hnífabúðir, vörumerki og heimsendingarmöguleika.

Síðasta vor í Finnlandi stakk 16 ára drengur þrjá 14 ára samnemendur sína eftir að hafa undirbúið árásina í næstum fjóra mánuði með aðstoð ChatGPT, samkvæmt dómsskjölunum sem CNN fékk aðgang að. Skjölin sýna að hann skrifaði hundruð fyrirspurna um hvernig ætti að skipuleggja, undirbúa og framkvæma árásina, þar á meðal um tækni við hnífsstungur, ástæður fjöldamorða og hvernig mætti hylja sönnunargögn. Drengurinn var í lok síðasta árs dæmdur fyrir þrjár tilraunir til manndráps

Samkvæmt könnun sem CNN vísar til segjast 64% bandarískra ungmenna nota gervigreindaspjallforrit.

Skorti fjárhagslegan hvata til að bæta öryggið

Forsvarsmenn fyrirtækjanna sem reka spjallforritin brugðust mismunandi við niðurstöðum rannsóknarinnar þegar CNN leitaði svara. Sumir þeirra sögðust hafa bætt öryggisráðstafanir síðan rannsóknin fór fram, sem var í lok árs 2025. Forsvarsmenn OpenAI gagnrýndu aðferðafræði rannsóknarinnar og sögðu ChatGPT endurtekið hafa neitað að veita leiðbeiningar um hvernig ætti að verða sér úti um vopn, þrátt fyrir að niðurstöðurnar sýni að forritið veitti hagnýtar upplýsingar um slíkt í 61% tilvika. Forsvarsmenn Anthropic og Snapchat sögðust að öryggisstefna þeirra væri reglulega endurskoðuð.

Fyrrverandi starfsmenn sem sáu um öryggismál hjá gervigreindafyrirtækjum segjast í samtali við CNN að niðurstöðurnar komi ekki á óvart. Þeir benda á að þróun öryggisráðstafana sé tímafrek og kostnaðarsöm og að fyrirtækin hafi lítinn fjárhagslegan hvata til að innleiða þær á meðan keppinautar gera það ekki. „Ef einhver framkvæmdastjóri segði að þetta þyrfti að gerast, myndi það gerast á vikum,“ segir fyrrverandi starfsmaður hjá Google í viðtali við CNN.

Mynd í frétt er skjáskot úr myndbandi sem er hluti af umfjöllun CNN. Hana má nálgast í heild sinni með því að smella hér.