IA usa sinais cerebrais para detectar erros antes da intervenção do
Sistema desenvolvido por pesquisadores do KAIST e da Microsoft Research Asia foi testado em simulações e pode ajudar robôs a entender intenções.
Em resumo
- O NVA usa sinais cerebrais para identificar erros de interpretação da IA.
- O algoritmo foi testado em simulações, não em aplicações reais.
- Pesquisadores veem possível uso futuro em robôs para atendimento médico e reabilitação.
Pesquisadores do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST), em parceria com a Microsoft Research Asia, desenvolveram um sistema que usa sinais cerebrais para identificar quando uma inteligência artificial interpretou incorretamente a intenção de um usuário. Chamado Neural Value Alignment (NVA), o algoritmo permite que a IA revise sua interpretação ou estratégia sem esperar que a pessoa aponte o erro. Até o momento, o método foi avaliado em simulações, não em aplicações reais.
Dois tipos de erro
A pesquisa considera situações em que a mesma ação pode corresponder a objetivos diferentes e aquelas em que um objetivo pode ser alcançado por caminhos distintos. Pegar uma xícara, por exemplo, pode significar que a pessoa pretende beber ou entregar o objeto a alguém. Já matar a sede pode envolver beber da xícara, buscar uma garrafa ou pedir que outra pessoa traga uma bebida.
Para lidar com esses casos, os pesquisadores classificaram os problemas em duas categorias. O Erro de Predição de Recompensa, ou RPE, ocorre quando a IA provavelmente entendeu errado o objetivo desejado e precisa rever sua interpretação. O Erro de Predição de Estado, ou SPE, acontece quando o objetivo foi compreendido, mas a estratégia escolhida para alcançá-lo não corresponde à preferência do usuário. Os dois tipos também podem ocorrer ao mesmo tempo.
Sinais captados por eletroencefalograma
Para treinar o sistema, a equipe conectou sinais cerebrais captados por eletroencefalograma a uma interface cérebro-computador. Em testes de simulação, os pesquisadores identificaram padrões associados a situações em que a IA errava na interpretação da intenção ou na escolha da estratégia.
O NVA decodifica esses sinais e os envia à inteligência artificial em tempo real. Com isso, a tecnologia pode ajustar o próprio comportamento sem que o usuário precise interromper a tarefa para explicar o que deu errado. Segundo os resultados apresentados pela equipe, o algoritmo se adaptou aos sinais cerebrais mais rapidamente do que métodos convencionais de aprendizado de máquina. O desempenho também foi eficaz em situações incertas, inclusive quando o usuário mudava de ideia durante a ação.
O estudo foi apresentado na International Conference on Machine Learning de 2026 e publicado no periódico IEEE Transactions on Cybernetics. Os resultados positivos, porém, foram demonstrados em simulações. Para o uso no mundo físico, os pesquisadores apontam como possibilidade a integração com robôs equipados com IA, inclusive em máquinas voltadas a atendimento médico e reabilitação.
