Eine rühm OpenAI ja DeepMind juhtivate tehisintellekti ettevõtete praeguseid ja endiseid töötajaid osutas avatud kirjas vilepuhujate kaitse puudumisele ja hirmule kättemaksu ees.

Mehr als ein Dutzend aktueller und ehemaliger Mitarbeiter von OpenAI, DeepMind von Google und Anthropic forderten am Dienstag in einem veröffentlichten Schreiben, dass KI-Unternehmen sichere Meldewege für Mitarbeiter schaffen sollten, um Bedenken sowohl intern als auch öffentlich äußern zu können. Laut den Unterzeichnern blockieren die Vertraulichkeitsvereinbarungen die öffentliche Diskussion über potenzielle Gefahren von KI.

„Künstliche Intelligenz: Die größten Experten dürfen nicht frei sprechen,“ ütles William Saunders, endine OpenAI töötaja, kes kirjutas alla kirjale.

Neben Saunders on allkirjastanud kirja veel kuus endist OpenAI töötajat. Lisaks on oma nimed lisanud neli praegust OpenAI töötajat ning üks endine ja üks praegune DeepMind'i töötaja. Kuus allkirjastajat jäid anonüümseks.

Kolm juhtivat tehisintellekti eksperti toetavad kirja: tehisintellekti teadlane Stuart Russell ning Yoshua Bengio ja Geoffrey Hinton, keda tuntakse nende varajase läbimurdeteadustöö tõttu kui "tehisintellekti ristiisad". Hinton lahkus eelmisel aastal Google'ist, et saada rohkem vabadust rääkida tehnoloogia ohtudest.

Hinton ja teised on hoiatanud juba aastaid KI potentsiaalsete ohtude eest inimkonnale. Mõned KI teadlased kardavad, et tehnoloogia võib kontrolli alt väljuda ja muutuda sama ohtlikuks kui pandeemiad või tuumasõjad. Teised on oma muredelt mõõdukamad, kuid nõuavad siiski rohkem regulatsioone tehisintellekti valdkonnas.

OpenAI nõustus teisipäevases vastuses kirjale, et peaks olema riiklik regulatsioon. "Oleme uhked oma edusammude üle kõige võimekamate ja turvalisemate tehisintellektisüsteemide pakkumisel ning usume oma teaduslikku lähenemisviisi riskijuhtimisele," ütles OpenAI pressiesindaja. "Me nõustume, et arvestades selle tehnoloogia tähtsust, on oluline range debatt, ja jätkame koostööd valitsuste, kodanikuühiskonna ja teiste kogukondadega kogu maailmas.

DeepMind ja Amazonilt toetust saav Anthropic ei vastanud teisipäeval kommentaarisoovidele.

OpenAI, 2015. aastal asutatud idufirma, avaldas 2022. aastal ChatGPT avalikkusele. Vestlusrobotist sai üks kõige viiruslikumaid tehisintellekti tooteid ja see aitas muuta OpenAI mitme miljardi dollariliseks ettevõtteks. Sam Altman, OpenAI juht ja üks tehisintellekti revolutsiooni arhitektidest, on teatanud, et soovib tehnoloogiat ohutult arendada.

Teisipäevase kirja allakirjutanud ütlesid, et praegused ja endised töötajad on väheste seas, kes saavad ettevõtteid vastutusele võtta, kuna AI-ettevõtete üle puudub põhjalik riiklik järelevalve. Üks nende muredest on, et inimesed võivad kaotada kontrolli autonoomsete AI-süsteemide üle, mis võivad omakorda hävitada inimkonna.

Allakirjutanud nõuavad ettevõtetelt, et need võimaldaksid töötajatele anonüümseid aruandlusviise, ei astuks vastu vilepuhujatele ega sunniks neid vaikima sundivaid kokkuleppeid sõlmima. Nad tahavad, et tehisintellekti ettevõtted muutuksid läbipaistvamaks ja keskenduksid rohkem turvameetmetele.

OpenAI teatas teisipäeval, et on olemas anonüümne usaldusväärsuse hotline ja et ühtegi tehnoloogiat ei vabastata enne, kui vajalikud ohutusmeetmed on rakendatud.

Daniel Kokotajlo, endine OpenAI töötaja, kes kirjutas samuti alla kirjale, ütles, et ettevõtted ignoreerivad oma tehnoloogia arendamise võidujooksus tehisintellekti riske. „Ma otsustasin OpenAI-st lahkuda, sest kaotasin lootuse, et nad käituvad vastutustundlikult, eriti üldise tehisintellekti arendamisel,“ ütles ta. „Nemad ja teised on omaks võtnud mentaliteedi ‚Tegutse kiiresti ja lõhu asju‘, mis on vastupidine sellele, mida on vaja nii võimsa ja halvasti mõistetud tehnoloogia puhul.“