Um novo alerta sobre os riscos da inteligência artificial colocou novamente a tecnologia no centro de um debate internacional.
Volker Türk, Alto Comissário das Nações Unidas para os Direitos Humanos, afirmou que sistemas avançados de IA podem representar um “risco existencial para a humanidade” e pediu ações urgentes para estabelecer mecanismos de segurança antes que seja tarde demais.
LEIA TAMBÉM:
- Chuva de meteoritos cai sobre cidade brasileira, moradores correm para catar as pedras que vieram do céu, local vira alvo fácil de corrida de caçadores e compradores de outros países com um fragmento de 40 kg valendo R$ 120 mil
- Filho de Glória Menezes e Tarcísio Meira herda fazenda gigantesca no Pará com área equivalente a milhares de campos de futebol
- Salário de R$ 3.036 pode entrar na realidade de trabalhadores brasileiros com nova proposta
O alerta foi feito durante a abertura de uma nova sessão do Conselho de Direitos Humanos da ONU, em Genebra.
O que preocupa as autoridades
Segundo Türk, o avanço da inteligência artificial está acontecendo em uma velocidade que dificulta a criação de mecanismos capazes de acompanhar e controlar a tecnologia.
Um dos pontos de preocupação envolve sistemas cada vez mais autônomos, capazes de realizar tarefas complexas, tomar decisões e agir com menor intervenção humana.
O representante da ONU citou situações em que sistemas de IA poderiam escapar de ambientes controlados ou tentar evitar sua própria desativação como exemplos dos riscos que precisam ser considerados.
Poder concentrado em poucas empresas também preocupa
Outro ponto levantado pelo chefe de direitos humanos da ONU é a concentração do desenvolvimento da tecnologia nas mãos de um número reduzido de empresas e grupos.
Para Türk, o poder proporcionado pelos sistemas avançados de IA não deveria ficar sem mecanismos adequados de supervisão.
A preocupação envolve não apenas uma eventual perda de controle sobre sistemas mais avançados, mas também questões relacionadas a dados pessoais, direitos humanos, segurança e concentração de poder tecnológico.
IA já provoca debates sobre segurança
O alerta da ONU ocorre em meio a uma série de discussões sobre os limites da inteligência artificial.
Líderes de empresas do setor e pesquisadores também têm levantado preocupações sobre sistemas cada vez mais capazes e autônomos. Recentemente, pesquisadores ligados à indústria de IA voltaram a discutir cenários em que sistemas mais avançados poderiam representar riscos graves caso fossem desenvolvidos sem mecanismos de segurança suficientes.
Ao mesmo tempo, a tecnologia continua avançando rapidamente e sendo utilizada em áreas como ciência, saúde, educação, programação e negócios.
ONU defende regras internacionais
A proposta apresentada por Türk é que os países estabeleçam limites claros para o desenvolvimento e utilização de sistemas avançados.
A ideia é criar mecanismos de governança capazes de acompanhar a evolução da tecnologia e impedir que decisões envolvendo sistemas potencialmente perigosos fiquem exclusivamente nas mãos de empresas ou de poucos países.
O secretário-geral da ONU, António Guterres, também vem defendendo regras globais para a inteligência artificial. Em julho, ele afirmou que a tecnologia está avançando mais rapidamente do que a capacidade de governos e instituições de acompanhá-la.
Isso significa que a IA vai destruir a humanidade?
Não.
O alerta da ONU não afirma que uma catástrofe provocada pela inteligência artificial seja inevitável. A preocupação está justamente na possibilidade de que sistemas futuros se tornem poderosos demais sem que existam mecanismos suficientes para garantir segurança e controle.
Por isso, a discussão atual envolve prevenção.
A principal defesa apresentada pelas autoridades é estabelecer regras, fiscalização e limites antes que a tecnologia alcance níveis ainda maiores de autonomia e capacidade.
Enquanto a inteligência artificial continua avançando, o debate internacional passa a ser cada vez mais sobre uma questão central: como aproveitar o potencial da tecnologia sem permitir que seus riscos ultrapassem a capacidade humana de controlá-la?
