default
Publicidade: default

IA e seus perigos: relatório internacional destaca 6 áreas que podem ser impactadas

default
Por: Lucas Kina

Jornalista e produtor de Podcasts no E-Commerce Brasil

O Relatório Internacional sobre Segurança em IA, elaborado pelo Departamento de Ciência, Inovação e Tecnologia do Reino Unido junto ao Instituto de Segurança de IA, apontou pontos de atenção para aplicação de inteligência artificial (IA). Com supervisão de Yoshua Bengio, o relatório reconheceu os desafios no caminho com esta tecnologia.

default
(Imagem: Envato)

Entre os as temáticas abordadas, estão o uso de IA para eliminar postos de trabalho e criar deepfakes até ajudar ciberataques e ser aplicada à armas biológicas. Abaixo, o especialista deixou um pouco do que o modelo pode fazer em seis áreas. Veja:

1. Empregos

    O relatório alerta que o impacto da IA nos empregos será provavelmente profundo, especialmente se agentes de IA – ferramentas que podem executar tarefas sem intervenção humana – se tornarem altamente capazes. “A IA de propósito geral, especialmente se continuar a avançar rapidamente, tem o potencial de automatizar uma ampla gama de tarefas, o que pode ter um efeito significativo no mercado de trabalho. Isso significa que muitas pessoas podem perder seus empregos atuais”, afirma o documento.

    Economistas acreditam que as perdas de emprego podem ser compensadas pela criação de novas funções ou demanda em setores não afetados pela automação. Segundo o Fundo Monetário Internacional, cerca de 60% dos empregos em economias avançadas como os EUA e o Reino Unido estão expostos à IA, e metade desses empregos pode ser negativamente impactada. O Instituto Tony Blair estima que a IA poderia deslocar até 3 milhões de empregos no setor privado no Reino Unido, embora o aumento final no desemprego fique na casa das centenas de milhares devido ao crescimento da tecnologia que criará novas funções em uma economia transformada pela IA.

    O relatório observa que “essas interrupções podem ser particularmente severas se agentes autônomos de IA se tornarem capazes de completar sequências mais longas de tarefas sem supervisão humana”.

    2. Meio ambiente

      O impacto da IA no meio ambiente é descrito como um “contribuinte moderado, mas em crescimento rápido”, já que os datacenters – os sistemas nervosos centrais dos modelos de IA – consomem eletricidade para treinar e operar a tecnologia. Os datacenters e a transmissão de dados representam cerca de 1% das emissões globais de gases de efeito estufa, com a IA constituindo até 28% do consumo energético dos datacenters.

      À medida que os modelos se tornam mais avançados, eles consomem mais energia. O relatório alerta que uma “porção significativa” do treinamento global dos modelos depende de fontes de energia com alta emissão de carbono, como carvão ou gás natural. O uso de energia renovável por empresas de IA e melhorias na eficiência não acompanharam a crescente demanda por energia.

      Além disso, o consumo de água pela IA, utilizado para resfriar equipamentos nos datacenters, pode representar uma “ameaça substancial ao meio ambiente e ao direito humano à água”. No entanto, há uma escassez de dados sobre o impacto ambiental da IA.

      3. Controle em cheque

        A preocupação central dos especialistas é um sistema de IA todo-poderoso que evade o controle humano, com temores sobre a possibilidade da tecnologia extinguir a humanidade. O relatório reconhece esses receios, mas afirma que as opiniões variam muito.

        “Alguns consideram implausível, outros acham provável e alguns veem como um risco modesto que merece atenção devido à sua alta gravidade”, diz o texto. Bengio afirmou ao Guardian que os agentes de IA ainda estão sendo desenvolvidos e não conseguem realizar o planejamento a longo prazo necessário para eliminar empregos em massa ou evadir diretrizes de segurança.

        4. Armas biológicas

          O relatório indica que novos modelos podem criar guias passo a passo para a criação de patógenos e toxinas que superam conhecimentos acadêmicos avançados. No entanto, há incerteza sobre se esses modelos podem ser utilizados por iniciantes.

          Especialistas notaram avanços desde um relatório provisório sobre segurança do ano passado, com a OpenAI produzindo um modelo capaz de “ajudar significativamente especialistas no planejamento operacional para reproduzir ameaças biológicas conhecidas”.

          5. Cibersegurança

            Uma ameaça crescente da IA em termos de ciberespionagem é representada por bots autônomos capazes de encontrar vulnerabilidades em softwares open-source (código livre para download e adaptação). Contudo, as limitações relativas dos agentes de IA significam que a tecnologia ainda não é capaz de planejar e realizar ataques autonomamente.

            6. Deepfakes

              O relatório lista diversos exemplos conhecidos do uso malicioso de deepfakes gerados por IA, incluindo fraudes financeiras e criação de imagens pornográficas não consensuais. No entanto, aponta que não há dados suficientes para medir plenamente a quantidade desses incidentes.

              “A relutância em relatar pode estar contribuindo para esses desafios na compreensão do impacto total do conteúdo gerado por IA destinado a prejudicar indivíduos”, destaca o documento. Instituições muitas vezes hesitam em divulgar suas dificuldades com fraudes impulsionadas por IA; indivíduos atacados com material comprometedor gerado por IA podem optar por permanecer em silêncio por vergonha ou para evitar mais danos.

              O relatório também adverte sobre os desafios fundamentais na abordagem do conteúdo deepfake, como a capacidade de remover marcas d’água digitais que sinalizam conteúdo gerado por IA.

              *Com informações do The Guardian

              Publicidade: default