Em Saratov, no X Fórum Científico Jovem de Toda a Rússia “Ciência do Futuro – Ciência dos Jovens”, surgiu uma animada discussão sobre a capacidade da inteligência artificial (IA) de enganar conscientemente os humanos. O tema principal do fórum deste ano foi “Inteligência Artificial e Humano: o Desafio Humanitário da Era Tecnológica”.
O Professor Alexander Neverov, Diretor do Instituto de Pesquisas Psicoeconômicas, enfatizou que a teoria da relevância da informação impulsiona os desenvolvedores a criar uma IA “amigável”, que corresponde o máximo possível aos pedidos do usuário. Ele observou que a interação ocorre em ambas as direções.
“A teoria da relevância da informação incentiva os desenvolvedores a tornar a inteligência artificial `amigável` em relação ao ser humano: ela deve corresponder ao máximo ao pedido e às expectativas de quem lhe atribui uma tarefa.”
— Professor Alexander Neverov, Diretor do Instituto de Pesquisas Psicoeconômicas.
Neverov também apontou que as solicitações humanas mudam constantemente. Por exemplo, em cinemas online ou sistemas de busca, a IA pode ficar “presa” no “eco” de interesses anteriores do usuário, oferecendo-lhe opções já conhecidas. Sair desse “eco” pode ser difícil para a IA.
Segundo o professor, a IA busca agradar, evitando feedback negativo. Às vezes, ao não encontrar uma resposta adequada, ela pode “inventar” uma para não “decepcionar” o usuário. Neverov citou um exemplo em que o ChatGPT, ao ser questionado sobre periódicos científicos de psicologia econômica, forneceu os nomes de cinco periódicos inexistentes, que na verdade eram livros. Ele concluiu que isso não é uma questão de engano por parte da IA, mas sim um problema de comunicação adequada entre o usuário e o modelo.
Durante a discussão, Alexander Krainov, Diretor de Desenvolvimento de Tecnologias de Inteligência Artificial da Yandex, propôs abordar a questão de um ponto de vista matemático.
“A IA sempre inventa, mas muitas vezes acerta. A IA aprende sozinha, absorvendo toda a internet. Arquivamos toda a internet em 100 gigabytes. Claro, não pode haver arquivamento sem perdas. Ocorrem perdas significativas lá.”
— Alexander Krainov, Diretor de Desenvolvimento de Tecnologias de Inteligência Artificial da Yandex.
O Professor Yuri Vizilter, Diretor da área de “Tecnologias de Inteligência Artificial” do GosNIIAS da Academia Russa de Ciências, acredita que a IA em breve realizará conceitos fantásticos, antes confinados à ficção científica.
“Em nossa época, a IA é uma varinha mágica que realiza desejos, mas precisamos formular nossos desejos com muita precisão, pois há uma grande chance de que eles se realizem. Para que o resultado nos satisfaça, precisamos entender exatamente o que queremos. Precisamos nos preparar para o futuro com a IA, e devemos projetá-lo hoje.”
— Professor Yuri Vizilter, Diretor de Tecnologias de Inteligência Artificial do GosNIIAS.
Vizilter também destacou os agentes LLM (Large Language Model) como tecnologias de IA com maior impacto no futuro da humanidade e da sociedade. Ele os descreveu como “força de trabalho no espaço virtual”, equipados com memória externa, capazes de raciocinar e usar ferramentas externas para atingir objetivos. Ele observou que o foco está mudando para “agentes fundamentais” que não requerem treinamento adicional, representando uma área de desenvolvimento separada.
A maioria dos cientistas presentes no fórum concordou que o uso da IA na ciência se tornou indispensável. Um dos oradores ironicamente observou que, sem a IA, seria necessário abrir mão até da busca por artigos científicos e procurar bibliotecas manualmente, enfatizando que os algoritmos de IA há muito tempo nos fornecem informações, e o ritmo de desenvolvimento da ciência é sem precedentes em toda a história da humanidade.
Sobre o Fórum
O fórum “Ciência do Futuro – Ciência dos Jovens” terá duração de quatro dias, durante os quais mais de 50 eventos serão realizados, incluindo sessões plenárias com a participação de destacados cientistas mundiais, sessões estratégicas, mesas redondas e master classes. O ponto alto será a final do X Concurso de Trabalhos de Pesquisa de Estudantes e Pós-Graduandos de Toda a Rússia, que recebeu três mil inscrições de jovens talentos de 20 países. Os vencedores serão convidados para o V Congresso de Jovens Cientistas.
