Cientista-chefe da OpenAI defende limites para o desenvolvimento de inteligência artificial
Jakub Pachocki propõe padrões industriais e métricas de segurança antes que a IA ultrapasse a capacidade humana de monitoramento.
Por Redação
Fonte: InfoMoney
Leitura em voz alta com a voz do seu aparelho, em português do Brasil.
O cientista-chefe da OpenAI propôs que as empresas de inteligência artificial concordem em impor limites ao desenvolvimento de modelos cada vez mais poderosos até que os pesquisadores disponham de maneiras melhores de entender e monitorar seu comportamento. Jakub Pachocki defendeu a criação de padrões para toda a indústria que estabeleçam limites para o desenvolvimento da IA, com as empresas se comprometendo a não ultrapassá-los até que determinados requisitos de segurança sejam cumpridos, segundo o portal InfoMoney.
“Também proponho limites comuns, baseados em perplexidade e outras métricas, que os desenvolvedores se comprometam a não ultrapassar até que nossa capacidade de compreender e monitorar o comportamento da IA alcance um marco concreto”, escreveu Pachocki em um texto publicado no domingo. Os limites propostos poderiam ser definidos, em parte, com base em uma medida técnica conhecida como perplexidade, que avalia o quão bem um modelo de IA consegue prever o próximo trecho de texto. Contudo, Pachocki não especificou qual deveria ser o limite inicial nem quando ele entraria em vigor.
O pesquisador alertou que a inteligência artificial pode acelerar avanços em seu próprio desenvolvimento já em 2027, potencialmente superando a capacidade dos pesquisadores de monitorar e compreender a tecnologia. O CEO da OpenAI, Sam Altman, endossou a proposta e classificou o artigo de Pachocki como “a coisa mais importante que a OpenAI publicou em bastante tempo”. Em uma publicação na rede X, Altman afirmou que a definição de limites comuns ajudaria a garantir “segurança e controle”.
A proposta surge em um momento em que os Estados Unidos se preparam para um novo debate sobre a regulamentação da inteligência artificial, após as amplas vitórias dos democratas nas eleições legislativas de meio de mandato. O avanço do partido na Câmara, no Senado e nas disputas para governos estaduais pode resultar em maior escrutínio do Congresso sobre as empresas de tecnologia e em esforços renovados para estabelecer regras de segurança para a IA. Alguns parlamentares também discutem a criação de uma comissão específica no Senado para coordenar a política de inteligência artificial. O presidente Donald Trump tem se posicionado contra restrições amplas ao desenvolvimento da tecnologia, o que pode criar um embate com o futuro Congresso de maioria democrata sobre a forma de regulamentar o setor.


