O chatbot de IA DeepSeek conquistou o mundo, liderando as paradas de lojas de aplicativos e levando o Vale do Silício e Wall Street ao colapso.
Uma ramificação do fundo de hedge chinês High-Flyer, o custo-desempenho do DeepSeek torna a leitura impressionante em comparação com concorrentes como o OpenAI. No entanto, relatórios cada vez mais documentam algumas das coisas que o chatbot de IA se recusa a discutir, incluindo tópicos delicados como os protestos e massacre da Praça Tiananmen e Taiwan.
Um novo relatório da PromptFoo, uma startup apoiada pela Andreessen Horowitz que ajuda empresas a encontrar vulnerabilidades em aplicativos de IA, descobriu que o modelo de raciocínio R1 da DeepSeek se recusava a responder a cerca de 85% das 1.360 'solicitações' de tópicos sensíveis, e as respostas padronizadas do modelo eram repletas de um 'tom nacionalista exagerado' oferecido frequentemente em seu lugar.
Os pesquisadores também observaram que o DeepSeek pode ser facilmente contornado, sugerindo que o laboratório chinês tenha 'implementado censura do Partido Comunista Chinês de forma bruta e violenta'.
O conjunto de dados completo de solicitações sensíveis está disponível na Hugging Face.
