Mitarbeiter führender KI-Unternehmen haben am Dienstag einen ungewöhnlichen Vorschlag veröffentlicht und fordern das Recht, vor den Risiken fortschrittlicher künstlicher Intelligenz zu warnen. Die 13 Unterzeichner, darunter aktuelle und ehemalige Mitarbeiter von OpenAI und Google DeepMind, betonen die Notwendigkeit von Schutzmaßnahmen, um potenzielle Schäden durch KI-Technologie zu verhindern.
Pracownicy wiodących firm zajmujących się sztuczną inteligencją opublikowali we wtorek nietypową propozycję i domagają się prawa do ostrzegania przed ryzykiem zaawansowanej sztucznej inteligencji. 13 sygnatariuszy, w tym obecni i byli pracownicy OpenAI i Google DeepMind, podkreśla konieczność stosowania środków ochronnych, aby zapobiec potencjalnym szkodom wynikającym z technologii AI.
„Boję się. To byłoby szalone, nie bać się” – powiedział Daniel Kokotajlo, który w kwietniu opuścił firmę po utracie zaufania do kierownictwa OpenAI. Kilku pracowników dbających o bezpieczeństwo odeszło ostatnio z podobnych powodów, co zwiększa obawy, że OpenAI nie traktuje wystarczająco poważnie ryzyka związanego z technologią.
Propozycja wspierana przez renomowanych ekspertów, takich jak Geoffrey Hinton, Yoshua Bengio i Stuart Russell, ma na celu zmianę bodźców dla firm rozwijających sztuczną inteligencję poprzez zwiększenie przejrzystości ich działań. Sygnatariusze domagają się, aby mogli wyrażać swoje obawy przed zarządami firm, organami regulacyjnymi i niezależnymi organizacjami eksperckimi, bez obawy przed represjami.
Ein Sprecher von OpenAI betonte, dass es bereits Plattformen wie Führungssprechstunden, Q&A-Sitzungen mit dem Vorstand und eine anonyme Integritätshotline gibt, über die Mitarbeiter ihre Gedanken äußern können.
Polish:
Rzecznik OpenAI podkreślił, że istnieją już platformy takie jak sesje z kierownictwem, sesje pytań i odpowiedzi z zarządem oraz anonimowa infolinia etyczna, za pomocą których pracownicy mogą wyrażać swoje opinie.
„Zwykłe środki ochrony sygnalistów są niewystarczające, ponieważ koncentrują się na działalności nielegalnej, podczas gdy wiele z zagrożeń, które nas niepokoją, nie jest jeszcze uregulowanych” - napisali podpisani pod wnioskiem. Zatrudnili prawnika pro bono Lawrence'a Lessiga, który wcześniej doradzał informatorce z Facebooka Frances Haugen.
Innym żądaniem sygnatariuszy jest koniec umów o niezrzeczeniu się, które uniemożliwiają osobom z wewnątrz wyrażanie obaw związanych z ryzykiem. Byli pracownicy OpenAI często czuli się przez takie umowy uciszeni.
Jan Leike, były szef zespołu ds. alignmentu w OpenAI, powiedział, że „kultura i procesy bezpieczeństwa musiały ustąpić miejsca błyszczącym produktom”. Carroll Wainwright, który odszedł w zeszłym tygodniu z podobnych powodów, również wyraził zaniepokojenie zachętami oferowanymi przez OpenAI.
Pytanie pozostaje, jak zmienić podstawową strukturę zachęt w branży sztucznej inteligencji. OpenAI zaczęło jako organizacja non-profit, ale musiało stworzyć sektor nastawiony na zysk i nawiązać partnerstwo z Microsoftem, aby sfinansować niezbędną moc obliczeniową. Rywalizująca firma Anthropic, założona przez byłych pracowników OpenAI, również musiała ostatecznie połączyć siły z Amazonem.
Zdarzenia z zeszłego listopada pokazały, że zarząd nie ma takiej siły przebicia, jaką oczekiwano," powiedział Wainwright. Dlatego sygnatariusze nie wierzą, że indywidualne struktury zarządzania firmą są wystarczające, aby zapewnić skuteczny nadzór.
Oprócz regulacji sygnatariusze uznają prawo pracowników do ostrzegania opinii publicznej za kluczowe. Informatorom należy umożliwić otwarte zgłaszanie dostrzeganych przez nich ryzyk, aby zmusić firmy do poważnego ich traktowania. Byłoby to korzystne dla wszystkich, niezależnie od rodzaju ryzyka związanego ze sztuczną inteligencją, które ich niepokoi.
