OpenAI ja Anthropic’i krissi kontraktor, kes silmitsi ekstremismi vastase tegevusega

SIDNEY, Austraalia – Inimesed, kes ChatGPT-s ilmutavad vägivaldset ekstremistlikku käitumist, saadetakse uue, praegu arendamisel oleva tööriista kaudu inim- ja vestlusrobotipõhisele radikaalsusevastasele toele Uus-Meremaal, ütlesid selle taga olevad inimesed.

See algatus on viimane katse ohutusküsimuste lahendamiseks suureneva arvu kohtuasjade taustal, milles süüdistatakse AI-ettevõtteid selles, et nad ei suuda vägivalla takistada ja isegi võimaldavad seda.

OpenAI-d ähvardati Kanada valitsuse sekkumisega veebruaris pärast seda, kui avalikustati, et isik, kes tegi surmaga läinud koolirünnaku, oli platvormilt blokeeritud ilma ametivõimude teavitamiseta.

ThroughLine – start-up, keda on viimastel aastatel palgutanud ChatGPT-i omanik OpenAI ning konkurendid Anthropic ja Google, et suunata kasutajaid kriisitoele juhul, kui neil tuvastatakse enesetapukäitumise, koduvägivalla või söögihäire risk – uurib ka võimalusi oma teenuste laiendamiseks ka vägivaldse ekstremismi ennetamise suunas, ütles selle asutaja ja endine noortetöötaja Elliot Taylor.

Ettevõte arutleb koostöös Christchurch Call’iga – 2019. aastal Uus-Meremaal toimunud kõige hukutavama terrorirünnaku järel loodud initsiatiiviga, mille eesmärk on tõrjuda veebis olevat viha – mis hõlmaks ekstremismivastase rühma juhendamist samas, kui ThroughLine arendab interventsioonivestlusrobotit, ütles endine noortetöötaja.

„See on midagi, mille poole me soovime liikuda ja mille puhul soovime paremini kaetud olla ning seejärel platvorme paremini toetada,“ ütles Taylor intervjuus, lisades, et ajaraamistikku pole veel määratud.

OpenAI kinnitas oma suhte ThroughLine’iga, kuid keeldus edasisest kommentaarist. Anthropic ja Google ei vastanud kohe kommentaari palvetele.

Taylor ettevõte, mida ta juhib oma kodust maapiirkonnas Uus-Meremaal, on saanud AI-firmade jaoks standardiks oma pakkumisega: 180 riigis 1600 telefonihelitusteenust, mida kontrollitakse pidevalt.

Kui AI tuvastab potentsiaalse vaimse tervisekriisi tunnuseid, suunab see kasutaja ThroughLine’ile, mis ühendab teda kohalikus piirkonnas saadaoleva inimtegevusega teenusega.

Kuid ThroughLine’i ulatus on olnud piiratud kindlate kategooriatega, ütles asutaja. Vaimse tervise probleemide ulatus, mille inimesed veebis avaldavad, on kasvanud kiiresti AI-vestlusrobotite populaarsuse tõttu ja hõlmab nüüd ka ekstremismi „mängumisi“, lisas ta.

Rohkem vestlusrobotid, rohkem probleeme

Ekstremismivastane tööriist oleks tõenäoliselt hübriidmudel, mis ühendab vestlusrobotit, kellele on õpetatud reageerida inimestele, kes ilmutavad ekstremismi tunnuseid, ning viiteid reaalmaailma vaimse tervise teenustele, ütles Taylor.

„Me ei kasuta baas-LM-i õppeandmeid,“ ütles ta, viidates üldistele andmekogudele, mida suured keelemudelid kasutavad koherentsesse teksti moodustamiseks. „Meie töötame õigete eksperditega.“ Tehnoloogiat testitakse hetkel, kuid väljalaske kuupäeva pole veel määratud.

Galen Lamphere-Englund, Christchurch Call’i kontraterrorismi nõunik, ütles, et ta loodab selle toote levitada mänguforumite moderaatoritele ning vanematele ja hooldajatele, kes soovivad veebis ekstremismi likvideerida.

„Vestlusroboti suunamistööriist on hea ja vajalik idee, sest see tunnistab, et probleem ei ole ainult sisu, vaid ka suhtlusdünamiika,“ ütles Queenslandi tehnoloogiakõrgkooli AI-uurija Henry Fraser.

Toote edu võib sõltuda küsimustest: „Kui head on järeltoimetused ja kui head on struktuurid ning suhted, millele nad inimesi suunavad probleemi lahendamiseks,“ ütles ta.

Taylor ütles, et järeltoimetused, sealhulgas võimalikud teated ohtlike kasutajate kohta ametivõimudele, on veel määramata, kuid need võtavad arvesse ka riski, et tegevus võib põhjustada käitumise esialgsest halvenemise.

Ta ütles, et hädaolukorras olevad inimesed jagavad sageli veebis asju, mida nad ei julge inimesele öelda, ja valitsused võivad ohtu suurendada, kui sunnivad platvorme katkestama kasutajate suhtluse tundlikkate teemade arutlemisel.

Niiskuse tõttu seotud militantsuse tugevnenud modereerimine platvormidel, millele on rõhutud õiguskaitseasutuste poolt, on põhjustanud sarnaselt mõtlejate liikumist vähem reguleeritud alternatiividele nagu Telegram, väitis 2025. aastal New Yorki Ülikooli Sterni keskus äri- ja inimõiguste valdkonnas.

„Kui sa räägid AI-ga ja avad kriisi, kuid see lõpetab vestluse, siis keegi ei tea, et see juhtus, ja see inimene võib ikka toetust puududa,“ ütles Taylor. – Rappler.com