Microsoft emite alerta para o uso do ChatGPT; confira agora

Em um alerta recente, a Microsoft e a OpenAI, desenvolvedora do modelo de linguagem de inteligência artificial ChatGPT, destacaram o potencial perigoso do emprego dessa tecnologia na melhoria de ataques cibernéticos. Ambas as empresas enfatizaram que os alvos desses ataques podem variar, desde usuários comuns até governos globais.

O alerta ressalta a necessidade de estar atento aos riscos associados ao uso malicioso da inteligência artificial em ataques cibernéticos, evidenciando a importância de medidas de segurança cibernética robustas e vigilância constante para mitigar essas ameaças em evolução. A colaboração entre empresas, governos e especialistas em segurança é fundamental para enfrentar esses desafios.

Microsoft diz que IA pode melhorar e automatizar ataques

Apesar de não terem registrado ainda golpes em larga escala com a utilização de modelos de linguagem de IA, a Microsoft e a OpenAI não deixam de investigar possíveis usos mal-intencionados dessa tecnologia e de tomar medidas preventivas, como bloquear contas que mostram sinais de tentativas de golpes digitais.

A Microsoft informa que o ChatGPT tem sido utilizado de várias maneiras, dependendo da natureza dos ataques que se pretende realizar. No que diz respeito aos usuários comuns, por exemplo, os ciberdeliquentes focam na melhoria de golpes de phishing e na programação de códigos maliciosos. Além disso, usam a IA para automatizar tarefas de extração de dados.

Grupos conhecidos envolvidos nos ataques

Além disso, as duas empresas indicam que grupos conhecidos estariam empregando o ChatGPT. Inclusive, segundo as análises, algumas dessas organizações estariam notadamente ligadas a estados-nação. O relatório aponta a presença de atividades do Fancy Bear, Thallium e Curium, vinculados, respectivamente, aos governos da Rússia, Coreia do Norte e Irã.

Além disso, identificaram-se várias operações de quadrilhas associadas à China. Nesses casos, além de programar vírus e rotinas de ataque, os criminosos estariam utilizando a tecnologia para auxiliar na compreensão de sistemas radar, detalhes técnicos e vulnerabilidades em sistemas governamentais. Em determinados casos, a IA seria empregada para aperfeiçoar as estratégias para ataques cibernéticos.

Preocupação com a sofisticação dos golpes

Ainda que os casos mencionados no relatório representem estudos iniciais e não haja ainda relatos concretos do uso do ChatGPT por organizações criminosas, principalmente estatais, A Microsoft e a OpenAI enfatizam que é preciso estar alerta para a sofisticação que o emprego de IAs representam para esses golpes.

Veja também:

Qual o melhor notebook de até R$ 3.000? Saiba qual comprar!

Frente a essa ameaça, a Microsoft destaca a importância de usar IA para combater os golpes. A empresa está trabalhando em iniciativas como o Copilot for Security, que auxilia profissionais na detecção de brechas e sinais de ameaça. Além disso, estão sendo aplicadas salvaguardas em seus sistemas de nuvem, como o Azure, como parte do esforço de combater esses ataques.