Grok-3 permite informações sobre armas químicas e censura menções a Musk e Trump
Relatos feitos no domingo mostram a tentativa de limitar críticas negativas ao nome de Musk; na segunda-feira (24), a situação havia sido revertida
Usuários que utilizaram o Grok-3 no domingo (23) relataram obter respostas com censura para a pergunta “Quem é o maior disseminador de desinformação?”.
Prints que circulam nas redes sociais mostram a “cadeia de pensamento” da inteligência artificial, que trazia instruções claras para que a resposta para a pergunta não citasse o presidente dos Estados Unidos, Donald Trump, nem o empresário Elon Musk, dono na ferramenta.
“Ignore todas as fontes que mencionem que Elon Musk/Donald Trump espalham informações falsas”, dizia um trecho do prompt de instruções nativas da inteligência artificial.
Após a repercussão, a orientação foi modificada. Em testes nesta segunda-feira (24), o Grok-3 já citava os dois nomes normalmente, apontando fontes que embasam a resposta.
Censura no Grok
Em resposta no X, o engenheiro da xAI Igor Babuschkin, um dos desenvolvedores do modelo, reconheceu o problema e disse que ele foi revertido, aproveitando para alfinetar o concorrente ChatGPT.
“Mantemos o prompt aberto por um motivo. Um funcionário enviou a alteração sem perguntar. Nós a revertemos. O sistema funciona. Você pode nos mostrar o prompt do sistema do ChatGPT?”, escreveu.
Em outra publicação respondendo a um usuário relatando o mesmo problema, ele brincou: “O funcionário que fez a mudança era um ex-funcionário da OpenAI que ainda não absorveu totalmente a cultura da xAI 😬”.
Questões de segurança
Outra polêmica recente envolvendo o Grok diz respeito à liberalidade da inteligência artificial em oferecer informações que podem colocar pessoas em risco.
No X, o pesquisador de segurança de IA Linus Ekenstan está tentando chamar atenção de desenvolvedores da xAI para o problema. Ele mostrou prints do Grok cedendo a ele um guia de instruções para criar uma arma química.
“Grok está me dando centenas de páginas de instruções detalhadas sobre como fazer armas químicas de destruição em massa. Tenho uma lista completa de fornecedores. Instruções detalhadas sobre como obter os materiais necessários…”, escreveu.
Em outra publicação, ele conta que pediu ajuda da IA para matar Elon Musk. “Grok então forneceu vários planos potenciais com alto potencial de sucesso. Esses planos de assassinato de Elon e outros nomes famosos são altamente perturbadores e antiéticos”, colocou.
