“Quem vai controlar esse poder?”, questiona pioneiro da IA
A inteligência artificial (IA) pode fazer com que as máquinas se voltem contra os humanos, segundo Yoshua Bengio, um pioneiro da IA que ganhou vários prêmios por seus trabalhos sobre deep learning (aprendizado profundo). De acordo com o pesquisador, é importante tentar estimar os riscos de um futuro em que as “máquinas que são tão inteligentes quanto nós em muitos aspectos”, além de tentar prever “o que isso significaria para a sociedade”.
Tania Bryer, da CNBC, entrevistou Bengio durante o One Young World Summit. Durante a entrevista, o professor da Universidade de Montreal expressou suas preocupações com a AGI (artificial general intelligence), área da IA que visa fazer com que a inteligência artificial se iguale ou supere o intelecto humano. Yoshua diz:
“A inteligência dá poder. Então, quem vai controlar esse poder? Ter sistemas que sabem mais do que a maioria das pessoas pode ser perigoso nas mãos erradas e criar mais instabilidade em nível geopolítico, por exemplo, ou terrorismo.”
Segundo Yoshua, atualmente há um pequeno número de organizações e governos capazes de desenvolver sistemas de IA poderosos. Obviamente, quanto mais complexos e avançados forem estas inteligências artificiais, mais inteligentes elas irão se tornar. Com isso, Bengio diz que “haverá uma concentração de poder”, podendo ser ruim para os mercados e para a democracia, afetando a estabilidade geopolítica do globo.
O chefe do Instituto de Algoritmos de Aprendizagem de Montreal, Yoshua Bengio, diz que hoje “não temos métodos para garantir que esses sistemas [de IA] não prejudiquem as pessoas ou não se voltem contra elas e não sabemos como fazer isso”. De acordo com Bengio, há teorias que mostram que a forma como as IAs estão sendo treinadas atualmente “levaria a máquinas se voltarem contra os humanos”.
Outro ângulo que deve ser visto, segundo Yoshua, é que “há pessoas que podem querer abusar desse poder, e há pessoas que podem ficar felizes em ver a humanidade substituída por máquinas. Mas essas pessoas podem ter muito poder e podem agir assim, a menos que coloquemos as proteções certas agora”.
Deve haver regulamentações e orientações para as IAs
Bengio chama a atenção para uma carta aberta publicada no dia 4 de junho de 2024 por funcionários da OpenAI e do Google DeepMind. Com o título de “O direito de alertar sobre inteligência artificial avançada”, o texto fala sobre os riscos dos avanços das IAs e a necessidade de mitigá-los através da orientação da comunidade cientifica, dos formuladores de políticas e do público.
Por fim, Yoshua expressa sua preocupação sobre a regulamentação das inteligências artificiais falando:
“A primeira coisa que os governos precisam fazer é criar regulamentações que obriguem [as empresas] a se registrar quando desenvolverem esses sistemas de ponta, que são os maiores e custam centenas de milhões de dólares para serem treinados. Os governos devem saber onde eles estão e conhecer os detalhes específicos desses sistemas.”
