Um estudo do Instituto Avançado de Ciência e Tecnologia da Coreia (KAIST), em parceria com a Microsoft Research Asia, criou um sistema de IA capaz de usar sinais cerebrais para identificar quando a tecnologia interpretou errado o pedido de um usuário. Essa inovação é particularmente significativa no campo da inteligência artificial, pois cria um novo paradigma de interação entre humanos e máquinas.
O projeto resultou no Neural Value Alignment (NVA), um algoritmo que ensina a IA que ela está errada, sem que o usuário tenha que avisá-la. O método está em fase de pesquisa, mas já promete novas possibilidades para o uso mais eficiente da tecnologia no cotidiano.
Neural Value Alignment: A Revolução da IA
O Neural Value Alignment baseia-se na compreensão profunda da intenção do usuário. Para a IA atender a um pedido corretamente, é crucial que ela interprete corretamente o que o usuário deseja. Atualmente, as ferramentas de interação apoiam-se em texto, fala e gestos, mas essas abordagens ainda apresentam limitações.
A pesquisa identificou que a IA pode cometer erros em diferentes situações. Por exemplo, uma mesma ação, como pegar uma xícara, pode ter múltiplas intenções: beber o líquido ou entregá-la a alguém. Alternativamente, o mesmo objetivo, como matar a sede, pode ser alcançado por diversas estratégias. Esses exemplos ilustram a complexidade das interações entre usuários e IA.
Com isso, a equipe do estudo categoriza os erros da IA em duas principais classes:
- Erro de Predição de Recompensa (RPE): Ocorre quando a IA não compreendeu corretamente o objetivo do usuário. Nesse caso, o sistema revisa sua interpretação da ação.
- Erro de Predição de Estado (SPE): Este erro acontece quando a IA acerta o objetivo, mas a estratégia escolhida não é a desejada pelo usuário.
Essas distinções são fundamentais para o NVA, que visa melhorar continuamente as interações da IA. Além disso, em alguns casos, ambos os erros podem ocorrer simultaneamente, indicando a necessidade de uma abordagem mais holística na identificação de falhas.
Como o NVA Aprendeu com Sinais Cerebrais
A pesquisa utilizou eletroencefalograma (EEG) para captar sinais cerebrais e conectá-los a uma interface cérebro-computador. Essa conexão é central para a eficácia do NVA, pois permite que a IA compreenda não apenas as ações, mas também as reações emocionais e cognitivas do usuário.
Durante testes simulados, a equipe foi capaz de identificar quais sinais cerebrais correspondem a erros de interpretação ou de estratégia da IA. Com essa informação, foi desenvolvido um algoritmo que envia, em tempo real, esses sinais decodificados de volta para a inteligência artificial. Assim, a IA pode corrigir seu comportamento sem que o usuário precise sinalizar o erro.
Resultados Promissores e Aplicações Futuras
Os resultados do estudo foram apresentados na International Conference on Machine Learning em 2026 e publicados no periódico IEEE Transactions on Cybernetics. Os pesquisadores descobriram que o NVA demonstrou uma capacidade de adaptação aos sinais cerebrais muito superior em comparação com métodos tradicionais de aprendizado de máquina.
Mesmo em situações incertas, onde o usuário pode mudar de ideia durante uma ação, o algoritmo mostrou eficácia. Embora todos os testes tenham sido realizados em simulações, a equipe acredita que as aplicações práticas da tecnologia são promissoras, especialmente em áreas como robótica e atendimento médico.
Acredita-se que a implementação dessa tecnologia em robôs com IA poderá transformar a maneira como as máquinas compreendem as intenções dos usuários, permitindo interações mais naturais e intuitivas. Isso poderá impactar diretamente serviços de saúde, reabilitação e outras áreas que dependem da interpretação precisa das necessidades humanas.
ONU: avanço descontrolado da IA pode representar risco catastrófico