« Anciens employés déçus mais non surpris de l’opposition d’OpenAI au SB 1047 »

Le sentiment de déception sans surprise se fait ressentir chez Daniel Kokotajlo et William Saunders. Ces deux anciens chercheurs de OpenAI ont choisi de quitter l’organisation pour des questions de sécurité. Ils ont récemment exprimé leur désarroi face au refus de leur ancien employeur de soutenir le projet de loi californien SB 1047, qui vise à lutter contre les dangers potentiels de l’intelligence artificielle.

Le directeur général et ancien employeur des deux hommes, Sam Altman, avait auparavant plaidé pour une régulation de l’IA. Aujourd’hui, il s’oppose à une véritable réglementation, laissant ses anciens employés perplexe. Dans une lettre adressée au gouverneur de Californie, Gavin Newsom, Kokotajlo et Saunders ont partagé leurs préoccupations et espèrent encore que OpenAI sera capable de remplir sa mission en toute sécurité grâce à une réglementation appropriée.

La réponse de OpenAI à ce débat s’est faite par l’intermédiaire d’un porte-parole. Celui-ci a nié la « mauvaise interprétation » de leur position sur le projet de loi SB 1047, comme l’ont rapporté leurs anciens employés. La start-up insiste sur le fait qu’ils ont soutenu de nombreux projets de loi sur l’IA au Congrès. Ils sont d’avis que la réglementation de la sécurité de l’IA de pointe doit être mise en œuvre au niveau fédéral, étant donné son impact sur la sécurité nationale et la compétitivité.

Par contre, Anthropic, concurrent d’OpenAI, a exprimé un soutien au projet de loi, tout en suggérant des amendements spécifiques. Plusieurs de ces amendements ont depuis été incorporés. Le PDG de l’entreprise, Dario Amodei, a toutefois indiqué dans un courrier adressé à Newsom que les avantages du projet de loi l’emporteraient probablement sur ses coûts, sans pour autant donner son approbation totale.