Pioneiro da IA alerta que a tecnologia pode se voltar contra a humanidade

Pioneiro em IA, Yoshua Bengio, alerta sobre riscos e pede maior regulação na tecnologia Pioneiro da IA

O cientista da computação Yoshua Bengio, um dos pioneiros no campo da inteligência artificial (IA), manifestou preocupações sobre os riscos associados ao avanço dessa tecnologia. Durante sua participação no One Young World Summit, em Montreal, Canadá, Bengio destacou a necessidade de maior controle e regulação sobre os sistemas de IA, que, segundo ele, podem atingir níveis de inteligência comparáveis ou superiores ao humano, trazendo desafios significativos à sociedade.

“Quem Controlará Esse Poder?”

Bengio, professor da Universidade de Montreal e diretor do Instituto de Algoritmos de Aprendizagem, destacou que a inteligência confere poder, e o controle desse poder se tornará uma questão crucial à medida que a IA avança:

“Quem controlará esse poder? Sistemas capazes de superar o conhecimento humano podem criar instabilidade em diversas esferas, inclusive geopolítica.”

Segundo o cientista, a criação e o treinamento de sistemas de IA de ponta demandam investimentos bilionários, restringindo o acesso a poucos países e grandes corporações. Essa concentração de poder pode gerar consequências negativas, como:

• Desigualdade econômica;
• Desequilíbrios geopolíticos;
• Prejuízos às democracias e mercados globais.

Riscos de Abuso de Poder

Bengio também alertou para o risco de uso indevido das tecnologias de IA. Ele afirmou que algumas pessoas poderiam explorar o poder dessas máquinas para benefícios pessoais ou, em casos extremos, trabalhar para substituir a humanidade por máquinas:

“Embora seja uma minoria, essas pessoas podem ter grande poder, a menos que tomemos as devidas precauções agora.”

O cientista enfatizou a importância de antecipar e mitigar esses perigos antes que se tornem incontroláveis, recomendando um estudo aprofundado e medidas preventivas imediatas.

A Nova Era da Concentração de Poder

Outro ponto abordado por Bengio foi o impacto da IA na distribuição de poder global. Com poucos países e empresas capazes de sustentar os custos exorbitantes do desenvolvimento da IA, há o risco de uma nova concentração de poder econômico, político e militar. Isso, segundo ele, pode agravar as desigualdades globais e gerar instabilidade em mercados e governos.

Um Futuro Que Exige Precauções

Yoshua Bengio, reconhecido mundialmente por suas contribuições no campo do aprendizado de máquinas, reforça que a humanidade precisa agir com urgência para garantir que a IA seja desenvolvida e usada de forma ética e segura. Sem medidas apropriadas, os avanços tecnológicos podem gerar instabilidades significativas e transformar um dos maiores progressos da humanidade em uma ameaça global.