DeepSeek, la compañía china que desafía a los gigantes de la Silicon Valley, es una start-up fundada por un apasionado de la tecnología convencido de que la inteligencia artificial “puede cambiar el mundo”.
Aunque parezca salido de la nada, Deepseek tiene su sede en Hangzhou, una metrópolis del este de China donde están radicados varios gigantes tecnológicos del país, lo que le ha valido el apodo de “Silicon Valley china”. Poco conocido en el extranjero, DeepSeek despertaba desde hacía tiempo un gran interés en China.
El bot conversacional R1 de DeepSeek dejó anonadados a los expertos por sus resultados y su rentabilidad, habida cuenta de los reducidos costes de su desarrollo. Además, en China ensalzaron su supuesta capacidad para eludir las sanciones estadounidenses que buscan obstaculizar el acceso a los sofisticados chips que requiere la revolucionaria Inteligencia Artificial (IA).
El éxito de DeepSeek puso en entredicho las colosales sumas invertidas por los gigantes estadounidenses en el desarrollo de una IA generativa avanzada, y la eficacia de las sanciones occidentales a la hora de impedir que los rivales chinos los igualaran o, incluso, los superaran.
El presidente estadounidense, Donald Trump, lo reconoció: es una “señal de alarma” para Silicon Valley.
¿Qué tan seguro es DeepSeek?
“La aparición de nuevas empresas como DeepSeek presenta tanto oportunidades como preocupaciones de seguridad para los usuarios”, afirma el experto en Ciberseguridad en NordVPN, Adrianus Warmenhoven, quien insta a a interactuar con este tipo de plataformas con cierto “grado de precaución”.
El motivo se encuentra en las diferencias que presentan las leyes sobre la privacidad en los distintos países. “DeepSeek, al ser una startup China de IA, opera en un entorno regulatorio en el que la supervisión gubernamental de los datos es estricta. Esto plantea riesgos potenciales en relación con la recopilación, el almacenamiento y el uso de datos”, explica.
La aplicación ofrece un asistente de IA, un ‘chatbot’, que puede descargarse de manera gratuita en la App Store y en Google Play Store, y que da respuesta a las dudas del usuario en forma de conversación. Para ello, también tiene acceso a la web, e incluso tiene un modo de pensamiento profundo que, aunque tarda unos segundos más, ofrece una respuestas más concienzuda.
Uno de los principales problemas que se han detectado es la posible parcialidad del modelo, que ya “se ha enfrentado a una creciente reacción negativa por su negativa a abordar temas políticos”, lo que hace sospechar de “posibles sesgos e influencias externas en las políticas de moderación de contenidos de la plataforma”, señala Warmenhoven.
En lo que respecta a la política de privacidad, esta se encuentra en la página web oficial de DeepSeek, en inglés, e indica que recopila información personal tanto del perfil como de la información que comparte el usuario con la IA (no solo del historial de conversaciones, sino también fotos, vídeos y audio que cargue), así como la que facilite al contactar con la propia empresa.
También información procedente del dispositivo desde el que el usuario use la aplicación, como “modelo del dispositivo, sistema operativo, patrones o ritmos de pulsaciones de teclas, dirección IP e idioma del sistema”, y de la red en la que esté conectado. A ello se suman los datos del uso de la ‘app’, de la ‘cookies’ y de la información de pago, y los procedentes de fuentes como los servicios vinculados o de empresas de anunciantes.
Estos datos se almacenan en China. “Esto genera inquietud, no solo por la recopilación de datos descrita, sino también por los riesgos potenciales asociados con el almacenamiento de dichos datos en una jurisdicción con diferentes estándares de privacidad y seguridad”, añade el experto en ciberseguridad.
En este contexto, Warmenhoven aconseja a los usuarios que sean conscientes de que “cualquier dato compartido con la plataforma podría estar sujeto al acceso del gobierno bajo las leyes de ciberseguridad de China, que exigen que las empresas proporcionen acceso a los datos cuando lo soliciten las autoridades”.
También preocupa la falta de transparencia en torno a los modelos de inteligencia artificial que ha desarrollado la empresa, ya que falta información sobre los entrenamietnos y la forma en la que trabajan.
Por ello, el experto advierte que “los usuarios deben considerar si sus interacciones o los datos cargados podrían contribuir inadvertidamente a los procesos de aprendizaje automático, lo que podría conducir al uso indebido de los datos o al desarrollo de herramientas que podrían explotarse de forma maliciosa”.
Warmenhoven refiere también el riesgos de sufrir ciberataques, por la atención que esta aplicación está atrayendo, y no solo entre los usuarios. De hecho, este lunes, la propia compañía anunció que limitaba las inscripciones debido a un ciberataque, del que no dio más detalles.
“A medida que las plataformas de IA se vuelven más sofisticadas, también se convierten en objetivos principales para los piratas informáticos que buscan explotar los datos de los usuarios o la propia IA”, señala el experto de NordVPN.
Marc Rivero, de Kaspersky, explica que en este caso, DeepSeek ha limitado el registro de nuevos usuarios, por lo que es probable que se trate de un ataque de denegación de servicio distribuido (DDoS), en el que los servidores son saturados con tráfico masivo con el objetivo de interrumpir su funcionamiento.
Pero también podrían ser intentos masivos de acceso no autorizado o explotación de vulnerabilidades. Sin embargo, “es complicado” asegurar su naturaleza hasta que DeepSeek comparta más detalles técnicos, afirma en un comunicado.
Según Kaspersky, lo que destaca en el caso de DeepSeek es su carácter de código abierto, “un arma de doble filo”.
“Si bien los marcos de software de código abierto fomentan la transparencia, colaboración e innovación, también conllevan riesgos de seguridad y dilemas éticos”. De hecho, en 2024, el escáner de código abierto de Kaspersky detectó más de 12.000 paquetes maliciosos en repositorios abiertos.
Sin una supervisión centralizada, los ciberdelincuentes pueden empezar a crear versiones comprometidas del software o introducir puertas traseras bajo la apariencia de herramientas para usar la API de DeepSeek, lo que representa graves riesgos para usuarios y organizaciones.
Además, buscan explotar este tipo de herramientas con fines maliciosos, lo que ya se ha observado con otros modelos de IA populares, que se han utilizado para actividades como la creación de correos electrónicos de ‘phishing’.
Warmenhoven concluye que “para mitigar estos riesgos, los usuarios deben adoptar un enfoque proactivo en materia de ciberseguridad”, lo que incluye “examinar los términos y condiciones de cualquier plataforma con la que interactúen, comprender dónde se almacenan sus datos y quién tiene acceso a ellos”.
¿Quién es el fundador de DeepSeek?
DeepSeek fue creado por un prodigio de la tecnología y las finanzas, Liang Wenfeng: nacido en 1985, se graduó en Ingeniería en la prestigiosa universidad de Zhejiang en Hangzhou, donde asegura que se convenció de que la IA “iba a cambiar el mundo”.
Dedicó años a intentar aplicar la IA en diversos ámbitos, según una entrevista que ofreció el año pasado al portal chino Waves.
Hacia 2015 fundó High-Flyer, una empresa de inversiones especializada en el uso de la IA para analizar las tendencias de la bolsa. Su técnica le permitió alcanzar decenas de miles de yuanes de activos bajo gestión, lo que la convirtió en uno de los principales fondos de cobertura cuantitativos de China.
“Simplemente, hacemos las cosas a nuestro ritmo, calculamos los costes, los precios. Nuestro principio es no subvencionar [al mercado] ni generar beneficios enormes”, explicó Liang.
Según el diario Financial Times, en 2021 Liang empezó a comprar procesadores gráficos del especialista estadounidense Nvidia para un “proyecto paralelo”, algo confirmado por un medio local.
Liang “no era en absoluto como un jefe, sino más bien un geek” con una “capacidad de aprendizaje aterradora”, dijeron sus socios a Waves.
Ese “proyecto” paralelo, al margen de los mercados bursátiles, es un chatbot basado en IA generativa: un producto que acaba de sacudir el universo estadounidense de la tecnología... y que acercó a Liang Wenfeng a los entresijos del poder chino.
El empresario apareció la semana pasada junto a otros representantes clave del mundo de los negocios durante una reunión con el primer ministro, Li Qiang. En imágenes de la televisión estatal CCTV se veía a un hombre de pelo rizado y gafas de montura gruesa escuchando atentamente al mandatario.
Pero, al margen de los vaivenes geopolíticos, Liang manifestó su esperanza en que el auge de la IA pueda ayudar a comprender mejor las entrañas del espíritu humano.
“Nosotros planteamos la hipótesis de que la esencia de la inteligencia humana podría ser el lenguaje, que el pensamiento humano podría ser, esencialmente, un proceso lingüístico”, apuntó. “Lo que usted considera el ‘pensamiento’ podría ser, de hecho, su cerebro tejiendo lenguaje”.