En el transcurso de este año me han hecho esta pregunta en varias ocasiones: ¿qué herramienta hay para proteger la IA? Estamos muy preocupados por la “seguridad” de la IA, pero tenemos muchas dudas. ¿Realmente necesitamos una nueva herramienta?
Al profundizar con las personas sobre qué necesitan realmente, me doy cuenta de que no hay claridad sobre qué se quiere hacer. El problema viene desde las herramientas técnicas, la falta de políticas, la falta de conocimiento —y el propio temor—, e incluso desde no saber aprovechar lo que ya se tiene antes de buscar algo más.
En este post, y en la serie que sigue, vamos a desarrollar cada uno de esos puntos: qué hay que hacer y de qué manera. El objetivo principal es no perder de vista el riesgo que la IA representa para tu empresa y, al mismo tiempo, construir una hoja de ruta para su correcta adopción.
Tres riesgos distintos detrás de una misma pregunta
Detrás del temor de “¿cómo protejo la IA?” se esconden tres puntos relevantes, y cada uno se aborda de manera diferente.
El primero es el mal gobierno de la IA en la empresa. El segundo, el filtrado involuntario de información por parte de los empleados. El tercero, cómo los atacantes están usando la IA en contra de las empresas.
Las tres dimensiones que conviene separar antes de buscar una solución.
Esto aplica para todos, sin importar el tamaño
Hay algo importante que aclarar: esto aplica para todos, sin importar el tamaño de la empresa. Si tienes entre 5 y 10 empleados y crees que esto no te impacta, considera lo siguiente: se estima que el 65% de los trabajadores ya usa IA en su trabajo, así sea para redactar un correo. Eso significa que ya tienes agentes de IA trabajando, escondidos entre las sombras.
Las cifras lo confirman: solo el 37% de las empresas tiene políticas de gobierno de IA, y el 98% permite que la IA se use sin ningún tipo de control.
El riesgo no termina en el uso interno
Los delincuentes también están usando la IA, y cada vez con más sofisticación, para atacar. Deepfakes, desinformación, videos hiperrealistas y phishing generado por IA están en aumento.
Después de todo esto, te dejo una pregunta: ¿sabes cuál de estas tres dimensiones es tu mayor riesgo hoy? Cuéntame cuál tienes en mente. En el siguiente post vamos a trabajar la fuga de datos y qué hacer para controlarla.