OpenAI susține planul bipartizan al Camerei Reprezentanților privind evaluările independente de siguranță a AI

Cea mai mare companie de cercetare în domeniul inteligenței artificiale, OpenAI, și-a exprimat sprijinul pentru un proiect de lege bipartizan din Camera Reprezentanților, care ar obliga principalele companii de inteligență artificială să apeleze la evaluatori externi pentru verificarea siguranței modelelor.

Sursa: Politico.

Despre ce este vorba

Directorul pentru afaceri globale al OpenAI, Chris Lehane, a declarat marți jurnaliștilor că organizația susține o prevedere-cheie a FRONTIER Act, proiect de lege inițiat de congresmenii Jay Obernolte (republican, California) și Lori Trahan (democrată, Massachusetts). Documentul ar urma să devină primul cadru federal privind siguranța inteligenței artificiale.

Printre altele, legea ar obliga principalele laboratoare de AI să permită accesul unor organizații independente de verificare (IVO), care să monitorizeze dezvoltarea sigură a modelelor. Cerința s-ar aplica doar companiilor care depășesc anumite praguri ridicate în ceea ce privește veniturile anuale și investițiile în capacități de calcul.

La o întâlnire desfășurată luni la Capitoliu, Lehane a discutat, potrivit propriilor declarații, cu unul dintre inițiatorii proiectului despre „modul în care vedem noi IVO” și a transmis clar că OpenAI poate susține această măsură.

„Pentru ei era important să audă acest lucru și să îl audă chiar de la noi. Am vrut să transmitem acest mesaj cât se poate de clar”, a adăugat reprezentantul pentru relații guvernamentale al OpenAI.

Este pentru prima dată când OpenAI își exprimă public sprijinul pentru o cerință federală concretă privind evaluatori externi de siguranță pentru principalii dezvoltatori de sisteme avansate de AI.

Cum a ajuns compania la această poziție

Săptămâna trecută, OpenAI a susținut, cu întârziere, o lege din California care instituie o procedură de acreditare și verificare a „organizațiilor independente de verificare”, în principal grupuri din California pe care autoritățile ar urma să le implice în evaluarea dezvoltatorilor de AI. Compania și-a anunțat sprijinul în momentul în care guvernatorul Gavin Newsom semna legea.

În aceeași zi, Lehane a publicat o postare pe blog în care a numit „verificarea independentă” un pilon esențial al unor cerințe naționale obligatorii privind siguranța AI, pe care le solicită Congresului.

Sâmbătă, directorul general al OpenAI, Sam Altman, s-a angajat să introducă voluntar evaluatori externi în cadrul companiei, ca răspuns la un angajament similar anunțat cu câteva ore mai devreme de directorul general al Anthropic, Dario Amodei.

Reacția din Congres

Un angajat al echipei lui Trahan responsabilă de problemele legate de AI, care a vorbit sub protecția anonimatului, a descris situația drept „un semnal foarte puternic: liderii laboratoarelor au preluat ideea lui Dario privind evaluatorii integrați”.

„Se îndreaptă în direcția corectă și trec dincolo de simple declarații. Este util. Următoarele săptămâni vor fi esențiale: atunci se va vedea cum se vor transforma aceste angajamente ferme în legislație reală, care să reglementeze întreaga industrie.”