DeepSeek: Entre el Éxito Empresarial y los Riesgos para la Privacidad
La empresa china DeepSeek ha irrumpido en el panorama tecnológico con su último modelo de inteligencia artificial, generando tanto entusiasmo como preocupación. Mientras sus creadores afirman que el modelo «R1» rivaliza e incluso supera al «o1» de OpenAI en áreas como la resolución de problemas matemáticos, programación y razonamiento lingüístico, a un costo significativamente menor, expertos advierten sobre los riesgos potenciales para la privacidad y la protección de datos.
Esta situación ha llevado a varios países a bloquear o restringir el uso de la aplicación, mientras se acumulan informes de empresas de ciberseguridad y consultoras tecnológicas que alertan sobre las amenazas que representa para la información personal.
El foco se ha puesto en la relevancia de los modelos de IA basados en código abierto y en la posibilidad de que, ante la ausencia de una regulación y control adecuados, actores con conocimientos avanzados puedan utilizarlos con fines maliciosos.
Los Riesgos de una IA sin Límites Éticos
Panda Security, compañía especializada en ciberseguridad, ha emitido un informe titulado «Las consecuencias de que las IA generativas sí permitan vulnerar los derechos de privacidad». En él, advierte que los cambios en las políticas de los principales desarrolladores de IA podrían tener consecuencias «catastróficas», como la manipulación masiva a través de campañas de desinformación, ciberataques más sofisticados y una recopilación de datos sin consentimiento que vulnere el derecho fundamental a la privacidad.
La empresa enfatiza que la regulación no puede ser un esfuerzo aislado de cada país, ya que se trata de una tecnología global cuyo desarrollo «sin límites éticos» trasciende fronteras. Por ello, subraya la importancia de establecer un marco común de supervisión para evitar que la IA se convierta en una herramienta de manipulación y vigilancia masiva.
Josep Albors, director de Investigación y Concienciación de ESET, otra empresa de ciberseguridad, ha señalado que el modelo chino ya está siendo sometido a un exhaustivo análisis por parte de la comunidad de seguridad informática debido a las inquietudes sobre su privacidad, vulnerabilidades y prácticas de recopilación de datos.
Por su parte, Palo Alto Networks, multinacional estadounidense de ciberseguridad, ha publicado un informe en el que afirma haber detectado que DeepSeek es «preocupantemente vulnerable» en ciertos aspectos, como las restricciones que actúan como barreras de seguridad, y que puede generar contenidos «nefastos» cuando se utiliza sin los conocimientos o la experiencia profesional adecuados.
«Todas las Empresas Recopilan Datos»
Juan Ignacio Rouyet, responsable de IA en la consultora tecnológica Eraneos, ha observado que la repentina aparición del modelo chino ha suscitado dudas sobre sus riesgos. Señala que muchos de los problemas podrían residir no tanto en el código abierto de la IA, sino en la página web a la que accede el usuario, donde podría tener lugar la recopilación irregular de información. Este sitio estaría conectado con la operadora de telecomunicaciones estatal China Mobile.
Aunque reconoce la especial precaución que generan este tipo de servicios cuando provienen de China, Rouyet también afirma que «todas las empresas recopilan datos». En este sentido, destaca la importancia de las labores de regulación y supervisión, y valora positivamente que la Unión Europea apueste firmemente por una regulación y vigilancia que transmita tranquilidad y confianza a los usuarios.
Marcos Reguladores
Rouyet, quien preside el laboratorio de ideas «We The Humans», centrado en la importancia de una IA «ética», no considera que la apuesta de la UE por marcos reguladores rigurosos y sólidos vaya a generar una brecha tecnológica en el desarrollo y uso de la IA con respecto a países como Estados Unidos o China. Se muestra «convencido» de que esta regulación terminará imponiéndose a nivel mundial.
Si bien advierte de los «riesgos reales» para la privacidad en el modelo desarrollado por la compañía china, Rouyet circunscribe el «pelotazo» de este modelo al ámbito empresarial y bursátil, ya que se trata de un sistema tan eficiente como otros existentes, pero mucho más económico en su creación y entrenamiento. No lo considera, en ningún caso, un avance tecnológico innovador.
«Es más un movimiento de ficha en el tablero del ajedrez en que se ha convertido la inteligencia artificial en el mundo; es un toque de atención al mercado», afirma este experto, quien además cuestiona la verdadera eficiencia del modelo, aludiendo a informaciones que sugieren que la inversión real fue de 1.600 dólares, en lugar de los 6 millones anunciados.
Check Point, otra multinacional de ciberseguridad, se ha sumado a las advertencias sobre las amenazas del nuevo modelo de IA. Señala que, junto a la «explosiva popularidad» de la aplicación, han surgido preocupaciones «críticas» sobre la privacidad y la seguridad de los datos empresariales.
Esta empresa confirma que la llegada de DeepSeek ha marcado «un hito» en la accesibilidad de la IA al combinar capacidades avanzadas de razonamiento con un acceso gratuito e ilimitado, pero también concluye que su modelo de recopilación de datos plantea riesgos significativos.
Insights de Evox News: Cómo DeepSeek puede impactar tu negocio
La irrupción de DeepSeek en el mercado de la IA presenta tanto oportunidades como desafíos para las empresas:
Oportunidades de reducción de costos: La propuesta de DeepSeek de ofrecer un rendimiento comparable a modelos más caros a un costo significativamente menor podría representar una oportunidad para que las empresas reduzcan sus gastos en soluciones de IA, especialmente aquellas con presupuestos limitados o que se encuentran en etapas iniciales de adopción de esta tecnología.
Acceso a tecnología de vanguardia: DeepSeek podría democratizar el acceso a capacidades avanzadas de IA, permitiendo a empresas de todos los tamaños aprovechar estas herramientas para mejorar sus operaciones, productos o servicios.
Riesgos en la seguridad y privacidad: Las preocupaciones en torno a la privacidad y la seguridad de los datos plantean un desafío importante. Las empresas deben evaluar cuidadosamente los riesgos asociados con el uso de DeepSeek y considerar la implementación de medidas adicionales de protección de datos.
Ventaja competitiva, con cautela: Si bien DeepSeek ofrece una alternativa atractiva, es crucial que las empresas no basen su estrategia únicamente en el costo. La calidad, la confiabilidad y la seguridad deben ser factores determinantes en la elección de una solución de IA.
* Necesidad de adaptación y supervisión: La rápida evolución del panorama de la IA exige que las empresas se mantengan actualizadas sobre los últimos desarrollos, evalúen continuamente los riesgos y adapten sus estrategias en consecuencia. La supervisión regulatoria, especialmente en la Unión Europea, también jugará un papel importante en la configuración del futuro de esta tecnología
