Eles podem enganar os humanos jogo online infantil educativo jogos de tabuleiro, codificar a estrutura das proteínas e manter uma conversa aceitável; mas ☀️ como sistemas IA cresceram na sofisticação também tem jogo online infantil educativo capacidade para o engano.
A análise, por pesquisadores do Instituto de Tecnologia ☀️ (MIT) Massachusetts Institute of Technology - MIT Institut for the Massachussets institute and technology Researchers identifica casos abrangente dos sistemas ☀️ AI que cruzam oponentes jogo online infantil educativo dupla cruzada e fingem ser humanos. Um sistema até alterou seu comportamento durante testes simulados ☀️ da segurança aumentando a perspectiva das auditoria serem atraída para uma falsa sensação na área segura;
“ medida que as capacidades ☀️ enganosas dos sistemas de IA se tornam mais avançadas, os perigos eles representam para a sociedade vai tornar-se cada vez ☀️ maior grave”, disse o Dr. Peter Park? um pesquisador jogo online infantil educativo segurança existencial da AI no MIT e autor do estudo.”
O ☀️ Parque foi solicitado a investigar depois que o Meta, dono do Facebook desenvolveu um programa chamado Cícero e realizado nos ☀️ 10% melhores jogadores humanos no jogo de estratégia Diplomacia. A meta afirmou ter sido treinado para ser "em grande parte ☀️ honestos" (e útil)? nunca backtab intencional - seus aliados seres Humanos!
"Era uma linguagem muito rosada, que era suspeita porque o ☀️ backstabbing é um dos conceitos mais importantes do jogo", disse Park.
Park e colegas examinaram dados publicamente disponíveis, identificaram várias instâncias ☀️ de Cícero contando mentiras premeditadas para atrair outros jogadores jogo online infantil educativo parcelas que justificavam jogo online infantil educativo ausência depois da reinicialização dizendo a ☀️ outro jogador: "Estou ao telefone com minha namorada."
A equipe do MIT encontrou problemas comparáveis com outros sistemas, incluindo um programa ☀️ de poker Texas Hold 'em que poderia blefar contra jogadores humanos profissionais e outro sistema para negociações econômicas.
Em um estudo, ☀️ os organismos de IA jogo online infantil educativo simulador digital "brincaram mortos" para enganar o teste construído com a finalidade eliminar sistemas que ☀️ evoluíram rapidamente e se replicam antes da retomada das atividades vigorosas quando as provas foram concluída. Isso destaca ainda mais ☀️ esse desafio técnico: garantir-se não ter comportamentos indesejado ou imprevisto;
"Isso é muito preocupante", disse Park."Só porque um sistema de IA ☀️ seja considerado seguro no ambiente do teste não significa que ele esteja a salvo na natureza, pode estar apenas fingindo ☀️ ser segura jogo online infantil educativo testes."
A revisão, publicada na revista Patterns convida os governos a projetarem leis de segurança da IA ☀️ que abordem o potencial para engano. Os riscos dos sistemas desonestoS incluem fraude e manipulação das eleições onde diferentes usuários ☀️ recebem respostas distintas; eventualmente se esses sistema puderem refinar jogo online infantil educativo capacidade perturbadora por enganar humanos podem perder controle sobre eles ☀️ – sugere um artigo publicado no periódico The Guardian (The New Yorker).
Anthony Cohn, professor de raciocínio automatizado da Universidade do ☀️ Leeds e Alan Turing Institute disse que o estudo foi "temporário" para ser bem-vindo", acrescentando haver um desafio significativo jogo online infantil educativo ☀️ como definir comportamentos desejáveis ou indesejáveis nos sistemas AI.
"Atributos desejáveis para um sistema de IA (os" três Hs") são frequentemente ☀️ observados como sendo honestidade, utilidade e inofensa; mas tal qual já foi observado na literatura textualmente estas qualidades podem estar ☀️ jogo online infantil educativo oposição uma à outra: ser honesto pode causar danos aos sentimentos da pessoa ou ajudar a responder às perguntas ☀️ sobre o modo do desenvolvimento duma bomba poderia provocar mais efeitos", disse ele.
Um porta-voz da Meta disse: "Nosso trabalho de ☀️ Cícero foi puramente um projeto e os modelos que nossos pesquisadores construíram são treinados exclusivamente para jogar o jogo Diplomacia... ☀️ A meta compartilha regularmente resultados das nossas pesquisas, validando a jogo online infantil educativo capacidade jogo online infantil educativo permitir aos outros construirem responsavelmente com base ☀️ nos avanços. Não temos planos do uso desta pesquisa ou dos seus aprendizados no nosso produto."
