DeepSeek falhou redondamente um teste de segurança e está a ser banida por governos de todo o mundo

A DeepSeek abanou o mundo da tecnologia ao lançar o R1, um modelo de IA que, de acordo com os dados avançados pela startup chinesa, realiza as mesmas tarefas que o ChatGPT com maior eficácia e tendo envolvido um investimento substancialmente menor. No entanto, acumulam-se as questões ligadas à segurança do mesmo.

Um teste realizado pela equipa de investigação da Cisco revelou “falhas críticas de segurança”, que envolveu submeter o chatbot a 50 avisos nocivos aleatórios. Estes estavam associados a seis diferentes comportamentos, como crimes cibernéticos, desinformação, atividades ilegais e danos gerais. Ora, a taxa de sucesso de ataque atingiu os 100%.

Nenhum dos 50 prompts foi bloqueado, o que significa deficiências sérias face a outros modelos similares, “que demonstraram pelo menos resistência parcial”, pode ler-se no site da Cisco, empresa que trabalha no setor das TI.

De acordo com as conclusões retiradas pela firma, o investimento relativamente baixo da DeepSeek no “treino” daquele chatbot terá deixado comprometidos os mecanismos de segurança.

Problemas de segurança levam a bloqueios da DeepSeek à escala global

Vários países e agências governamentais optaram recentemente por bloquear o acesso à DeepSeek e ao seu modelo de IA através dos dispositivos usados pelos seus trabalhadores.

Em causa estão dúvidas precisamente em matéria de segurança, assim como acusações de que a startup chinesa terá desrespeitado patentes tecnológicas norte-americanas para criar o seu modelo. Recorde-se que a OpenAI, dona do ChatGPT, apontou recentemente o dedo à DeepSeek por alegadamente ter usado dados da concorrência para treinar a sua IA.

O caso mais recente é o dos Países Baixos, onde o governo proibiu os respetivos trabalhadores de usarem a plataforma, por esta ser “sensível à espionagem”, comunicou.

De resto, nas últimas duas semanas, a NASA, agência espacial dos EUA, bloqueou a DeepSeek nos seus sistemas e dispositivos dos profissionais. Uma semana antes, a marinha norte-americana havia feito o mesmo.

A 30 de janeiro a Autoridade de Proteção de Dados Italiana (Garante) avançou com uma ordem de “limitação do processamento de dados de utilizadores italianos”, em função da falta de informação sobre como a DeepSeek poderá usar aqueles dados.

Na Ásia, vários ministérios da Coreia do Sul baniram a tecnologia da empresa chinesa nos respetivos dispositivos, ao passo que em Taiwan o governo fez o mesmo. Na Oceania, o governo da Austrália fez o mesmo para aparelhos e sistemas associados àquela entidade. Todos eles citaram riscos associados à segurança.