São Francisco:
Uma equipe da OpenAI dedicada a mitigar os perigos de longo prazo dos computadores superinteligentes ficou sem líder na sexta-feira, depois que duas figuras importantes deixaram a empresa.
O cofundador da OpenAI, Ilya Sutskever, e o colíder da equipe de “superalinhamento”, Jan Leike, anunciaram suas saídas do criador do ChatGPT na semana passada, e a mídia dos EUA informou que os membros restantes do grupo saíram ou foram transferidos para outras partes de São Francisco. empresa sediada.
O aparente desmantelamento de uma equipa OpenAI focada em manter a inteligência artificial sofisticada sob controlo ocorre num momento em que essa tecnologia está sob maior escrutínio por parte dos reguladores e aumentam os receios relativamente aos seus perigos.
“A OpenAI deve se tornar uma empresa de AGI (inteligência artificial geral) que prioriza a segurança”, escreveu Leike na sexta-feira em um post no X, antigo Twitter.
Leike apelou a todos os funcionários da OpenAI para “agirem com a seriedade” garantida pelo que estão construindo.
Tem sido uma jornada muito selvagem nos últimos cerca de 3 anos. Minha equipe lançou o primeiro RLHF LLM com InstructGPT, publicou a primeira supervisão escalável sobre LLMs, foi pioneira na interpretabilidade automatizada e na generalização fraca para forte. Mais coisas interessantes serão lançadas em breve.
-Jan Leike (@janleike) 17 de maio de 2024
O presidente-executivo da OpenAI, Sam Altman, respondeu à postagem de Leike com uma de sua autoria, agradecendo por seu trabalho na empresa e dizendo que estava triste com a saída de Leike.
“Ele está certo, temos muito mais a fazer”, disse Altman. “Estamos comprometidos em fazer isso.”
Altman prometeu mais sobre o assunto nos próximos dias.
Sutskever disse no X que estava saindo depois de quase uma década na OpenAI, cuja “trajetória tem sido nada menos que milagrosa”.
“Estou confiante de que a OpenAI construirá uma AGI que seja segura e benéfica”, acrescentou, referindo-se à tecnologia informática que procura ter um desempenho tão bom – ou melhor que – a cognição humana.
Sutskever, cientista-chefe da OpenAI, fez parte do conselho que votou pela destituição do colega executivo-chefe Altman em novembro do ano passado.
A demissão gerou um tumulto na startup com sede em São Francisco, com o conselho da OpenAI contratando Altman de volta alguns dias depois, após a rebelião de funcionários e investidores.
A OpenAI lançou na semana passada uma versão de alto desempenho e ainda mais humana da tecnologia de inteligência artificial que sustenta o ChatGPT, tornando-a gratuita para todos os usuários.
“Parece a IA dos filmes”, disse Altman em um blog.
Altman já havia apontado para a personagem de Scarlett Johansson no filme “Her”, onde ela dá voz a uma assistente virtual baseada em IA namorando um homem, como uma inspiração para onde ele gostaria que as interações de IA chegassem.
Chegará o dia em que “os cérebros digitais se tornarão tão bons e até melhores que os nossos”, disse Sutskever durante uma palestra numa conferência TED AI em São Francisco, no final do ano passado.
“AGI terá um impacto dramático em todas as áreas da vida.”
(Exceto a manchete, esta história não foi editada pela equipe da NDTV e é publicada a partir de um feed distribuído.)
