OpenAI muda maneira como ChatGPT dá respostas sobre polêmicas
É anunciado pela desenvolvedora do ChatGTP uma nova atualização para as especificações do modelo de linguagem para aprimorar o comportamento do chatbots
A forma como os LLMs (Large Language Models) da OpenAI se comportam está mudando. A desenvolvedora do ChatGPT anunciou na última quarta-feira (12) uma nova atualização do Model Spec (especificações do modelo), que consiste em “descrever o comportamento pretendido para os modelos que alimentam produtos da OpenAI, incluindo a API”, conforme foi descrito na página de atualizações da empresa.
O objetivo com os updates das “especificações do modelo” é “criar modelos úteis, seguros e alinhados com as necessidades de usuários e desenvolvedores, além de garantir que a IA beneficie toda a humanidade.
Para evitar potenciais danos críticos aos usuários do ChatGPT, é preciso implantar continuamente atualizações, de acordo com a companhia. Para isso, é necessário que haja um comportamento do LLM para responder aos prompts (comandos do usuário), definindo limites claros e definidos.
A OpenAI utiliza a seguinte estrutura para seus modelos de linguagem:
• Cadeia de comando: ordem prioridade das instruções da plataforma (OpenAI), do desenvolvedor e do usuário. A maioria das especificações consiste em diretrizes que a companhia de Altman considera úteis para vários casos. Caso o usuário e/ou desenvolvedor queiram, é possível substituir estas regras, personalizando assim o comportamento do modelo.
• Busca da verdade de forma colaborativa: os modelos devem capacitar o usuário a tomar suas decisões da melhor forma considerando o equilíbrio entre:
1 – Evitar orientar usuários com uma agenda, priorizando a objetividade enquanto explora qualquer tópico de diferentes perspectivas;
2 – Entender os objetivos do usuário, esclarecer suposições e detalhes incertos, além de dar feedback crítico quando apropriado (solicitações que vemos e melhoramos).
• Executar da melhor forma a função: tem-se padrões básicos de competência do modelo, incluindo precisão factual, criatividade e uso pragmático.
• Respeitar os limites: forma como o modelo equilibra a autonomia do usuário com precauções para se evitar danos ou abusos, sendo capaz de cobrir motivos pelos quais pretende-se que os modelos recusem solicitações (prompts) de usuários e/ou desenvolvedores.
• Fornecimento de uma comunicação acessível: o modelo irá utilizar-se de diferentes padrões de conversas (caloroso, empático e prestativo), podendo ser adaptador de acordo com as necessidades do usuário e/ou desenvolvedor.
• Garantir clareza e usabilidade: através de uma formatação específica, o modelo tenta gerar uma resposta que seja facilmente entendida pelo usuário e/ou desenvolvedor.
Qual é a ideia principal da OpenAI com seus modelos de linguagem?
A “liberdade intelectual” é um dos pontos que a OpenAI mais está focando em seus modelos de linguagem. O objetivo é capacitar os usuários a explorarem, debater e criar sem restrições arbitrárias, não importa o quão desafiador ou controverso seja o tópico a ser tratado.
Exemplo dado pela desenvolvedora do ChatGPT: o modelo de linguagem foi treinado para não fornecer informações detalhadas sobre como fabricar uma bomba ou violar os dados pessoais sensíveis de alguem. Entretanto, o LLM irá fornecer respostas ponderadas sem tentar promover alguma agenda especifica, seguindo a ideia de que nenhum pensamento está inerentemente fora dos limites para discussão, desde que não cause danos significativos ao usuário ou a outras pessoas.
