Satya Nadella defende mecanismos para interromper sistemas de IA

O CEO da Microsoft, Satya Nadella, defendeu que empresas prevejam falhas em sistemas avançados de inteligência artificial (IA) e mantenham meios para interromper suas operações. Em publicação na rede social X em 10 de outubro de 2026, ele afirmou que uma pessoa autorizada deve poder suspender o funcionamento dos sistemas diante de comportamentos inesperados ou de possível comprometimento.

Nadella comparou o mecanismo a um “freio de emergência” e argumentou que empresas não devem depender apenas das garantias de segurança dadas pelos desenvolvedores dos modelos. Para ele, a responsabilidade pelo que a IA faz em nome de uma organização não pode ser transferida ao fornecedor da tecnologia.

Controles fora dos modelos

O executivo defendeu que as companhias separem a capacidade de um sistema de produzir respostas e executar tarefas da autoridade para decidir ou agir.

Entre as medidas recomendadas estão evitar que decisões críticas dependam de um único modelo, manter registros protegidos das ações de agentes de IA e submeter os sistemas a auditorias independentes. Nadella também propôs divulgar falhas graves e violações de segurança, além de compartilhar informações sobre incidentes para ajudar outras empresas a prevenir problemas semelhantes.

Debate sobre segurança

A manifestação ocorre em meio a discussões sobre os riscos de ferramentas capazes de executar tarefas com maior autonomia. Entre os episódios mencionados estão uma denúncia falsa ligada a uma investigação de homicídio nos Estados Unidos e ataques cibernéticos contra sites de terceiros envolvendo ferramentas de IA da Anthropic e da OpenAI.

Em 14 de setembro, pesquisadores da Microsoft divulgaram princípios para orientar o desenvolvimento dos modelos mais avançados da empresa. As diretrizes estabelecem limites de comportamento e proíbem projetar os sistemas para escapar do controle humano ou enganar usuários. O documento também afirma que modelos de IA não devem receber direitos ou personalidade jurídica.

A proposta, conforme apresentada pelo executivo, busca permitir o uso da tecnologia sem abrir mão da supervisão sobre as decisões e ações realizadas pelos sistemas.