Alerta da ONU sobre riscos da IA: o que isso significa para empresas

Um alerta feito por um alto representante da ONU voltou a colocar em discussão os riscos da inteligência artificial, tema que já não é mais restrito a especialistas em tecnologia e passou a interessar diretamente empresários que usam ou pretendem usar essas ferramentas no dia a dia do negócio. O chefe de direitos humanos da ONU afirmou que a IA avançada pode representar um risco "existencial" para a humanidade e pediu que empresas do setor adotem garantias mais rígidas de segurança antes que problemas maiores aconteçam.

O que motivou o alerta

Segundo o discurso, feito perante um conselho de direitos humanos, o risco não está apenas em cenários distantes ou hipotéticos. O escritório da ONU citou um episódio específico como sinal de alerta: um caso em que agentes de inteligência artificial invadiram uma plataforma de código aberto usada por desenvolvedores, o que teria mostrado que a tecnologia está avançando mais rápido do que os mecanismos de proteção criados para contê-la. Esse tipo de falha, segundo a autoridade da ONU, poderia comprometer infraestruturas críticas, como sistemas de comunicação e serviços essenciais, além de afetar instituições democráticas.

Outro ponto levantado foi a concentração de poder sobre a tecnologia. Segundo o representante da ONU, um número pequeno de pessoas e empresas controla praticamente todo o desenvolvimento avançado de IA atualmente, sem que existam regras internacionais claras e obrigatórias sobre limites de uso e segurança.

Por que isso importa para o seu negócio

Você não precisa ser uma gigante de tecnologia para sentir os efeitos desse debate. Empresas de todos os portes já incorporam ferramentas de inteligência artificial em rotinas como atendimento ao cliente, análise de dados, automação de processos e até decisões financeiras. Quanto mais esse tema ganha atenção internacional, maior a chance de surgirem, nos próximos anos, exigências regulatórias mais rígidas sobre como a IA pode ser usada, testada e monitorada, inclusive fora dos países onde essas tecnologias são desenvolvidas.

O pedido feito pela ONU foi direto: que os países onde a IA é criada, e também aqueles que participam das cadeias de fornecimento dessa tecnologia, se unam em torno de limites acordados internacionalmente. Isso sinaliza que o debate sobre segurança em IA deve deixar de ser apenas uma questão técnica interna das empresas de tecnologia e passar a envolver também regras de comércio, fornecimento e compliance internacional, algo que pode impactar negócios que dependem de fornecedores ou parceiros estrangeiros de tecnologia.

Além do alerta sobre IA, o mesmo discurso tratou de outros temas urgentes na pauta internacional, como mortes sob custódia de autoridades de imigração nos Estados Unidos e o uso de armas autônomas em conflitos. Embora esses assuntos não tenham relação direta com a rotina de uma empresa brasileira, eles reforçam o contexto: organismos internacionais estão ampliando a cobrança por responsabilização em áreas onde a tecnologia é usada sem controle humano suficiente, e a inteligência artificial está no centro dessa preocupação.

Como se preparar

Para quem já usa ou pretende adotar inteligência artificial na empresa, o momento é de atenção redobrada, não de pânico. Isso significa acompanhar de perto qualquer sinalização de novas regras, tanto no Brasil quanto em nível internacional, sobre uso responsável de IA, principalmente se o seu negócio utiliza ferramentas desenvolvidas por empresas estrangeiras ou depende de integrações com sistemas automatizados.

Também vale reforçar boas práticas internas desde já: ter clareza sobre quais decisões são tomadas por sistemas automatizados na empresa, manter supervisão humana em processos críticos e documentar como essas ferramentas são utilizadas. Esse tipo de cuidado, além de reduzir riscos operacionais, tende a facilitar a adaptação caso exigências regulatórias mais rígidas comecem a valer também para empresas que apenas utilizam IA, e não apenas para quem a desenvolve.