cómo enfocar tu política de IA generativa.

Cuando una tecnología tan impactante como la IA generativa aparece en escena, es importante adoptar una posición al respecto como empresa. La IA generativa puede cambiar la forma en que tus empleados trabajan e innovan, y es probable que ya se utilice ampliamente en su empresa, quizá sin que lo sepas. La lista de ventajas es larga, pero la IA generativa no está exenta de riesgos. Mediante la creación de una política de empresa que regule el uso de la IA generativa, se puede empezar a utilizar la tecnología en todo su potencial, al tiempo que minimizan los posibles inconvenientes.

En este artículo trataremos algunos de los principales riesgos que plantea la IA generativa, cómo una política puede ayudar a reducirlos, y cómo podría ser el proceso de creación de una política en tu empresa. No debe considerarse asesoramiento jurídico, pero se basa en nuestra propia experiencia con herramientas de IA generativa y esperamos que sirva de base para futuras investigaciones.

¿por qué crear una política de IA generativa?

Tu empresa debe tener una política de IA generativa por la misma razón que tiene todas sus demás políticas: para garantizar el cumplimiento, orientar a los empleados en su trabajo y agilizar sus operaciones diarias. 

Las herramientas de IA generativa que pueden generar contenido de texto, imagen, audio e incluso video a partir de unas simples instrucciones tienen aplicaciones atractivas en todas las empresas. Con la gama de herramientas que existen y la velocidad a la que crecen, tu empresa se enfrenta a perder terreno frente a la competencia si no empieza a investigar cómo puede sacar partido de estas herramientas.

Pero para que los empleados realicen estas investigaciones con confianza y para que la empresa evite los conocidos riesgos de la IA generativa, deberá contar con una política. Esto demuestra que la empresa ha dedicado tiempo a pensar en las consecuencias de la IA generativa y ofrece a los empleados reglas claras a las que atenerse cuando experimentan, lo que les permite aprovechar con seguridad los beneficios de las herramientas de IA generativa disponibles. 

Veamos algunos de los principales riesgos que tu política de IA generativa debe tratar de mitigar.

los riesgos de la IA generativa.

injusticia, prejuicios y falta de ética

Existen posibles instancias en las que el contenido generado incurra en injusticias, prejuicios y falta de ética en las producciones de herramientas de IA.

Las herramientas de IA generativa son tan objetivas como los datos con los que se "entrenan". Si los conjuntos de datos que una herramienta utiliza para crear contenido son sesgados, el resultado de la herramienta también lo será. Por ejemplo, imaginemos una herramienta de IA generativa diseñada para generar descripciones de puestos vacantes basadas únicamente en unos pocos detalles generales sobre el puesto. Si esa herramienta se ha entrenado con miles de descripciones del puesto que contienen lenguaje no inclusivo, las descripciones del puesto que genere harán lo mismo. De este modo, es fácil que las herramientas de IA no hagan más que reproducir los prejuicios de sus creadores o usuarios. 

Los principales desarrolladores de IA se esfuerzan por evitar los prejuicios en sus herramientas, pero erradicarlos por completo supone un gran reto. Su política de IA generativa debe reconocer esta limitación y especificar medidas para superarla, por ejemplo, exigiendo que todo el contenido generado por IA sea comprobado minuciosamente por un ser humano en cuanto a prejuicios e imparcialidad antes de ser publicado o distribuido.

infracciones de la propiedad intelectual 

Este riesgo también es consecuencia de la forma en que se construyen los modelos generativos de IA. Al tomar la influencia de los millones de datos de imágenes, música, video y texto con los que se entrenan, pueden producir creaciones completamente únicas; sin embargo, existe el riesgo de que elementos significativos de estos datos de entrenamiento lleguen al contenido generado, creando posibles problemas de propiedad intelectual.

El debate sobre si los contenidos generados por IA infringen los derechos de los creadores originales sigue abierto, y algunas organizaciones de creadores exigen que estos den su consentimiento antes de que sus creaciones puedan utilizarse para entrenar modelos de IA. Otras empresas de software se centran en herramientas de IA generativa "seguras para uso comercial" que sólo se entrenan con contenidos con licencia completa. La cuestión de si los contenidos generados por IA pueden estar protegidos por derechos de autor varía en las distintas jurisdicciones, pero la respuesta es importante para las empresas que se plantean utilizar este tipo de contenidos en sus comunicaciones.

Las decisiones legales que refleje tu política de IA generativa variarán, pero la política debe tener como objetivo reducir el riesgo de problemas de propiedad intelectual, potencialmente marcando que el contenido generado por IA no pueda utilizarse externamente en las comunicaciones de la empresa.

privacidad de los datos

La privacidad de los datos compartidos con las herramientas de IA generativa ha sido un tema de debate desde que aparecieron en el mercado. Se sabe que parte de la razón por la que muchos de estos modelos de IA mejoran tan rápidamente es porque emplean el Feedback y las aportaciones de los usuarios para afinar sus respuestas y ampliar sus conocimientos.

Sin embargo, imaginemos un caso en el que un especialista en RRHH entrega datos profesionales confidenciales sobre una lista de candidatos a un chatbot de IA y le pide que los agrupe en categorías en función de su nivel de experiencia. Si el chatbot hace uso de las aportaciones del usuario para mejorar la precisión de sus respuestas, algunos expertos en seguridad advierten de que existe el riesgo de que estos datos sensibles queden expuestos a otros usuarios que sepan hacer las preguntas adecuadas.

Se trata de un caso extremo, pero ilustra algunas de las preguntas sin respuesta sobre la IA generativa y la privacidad de los datos. Muchas herramientas de IA declaran claramente que no exponen ninguna referencia del usuario a otros usuarios, pero esta no es una política universal.

La privacidad debe ser una parte clave de su política de IA generativa. Tu empresa tiene que decidir los detalles, pero especificar que ningún dato relacionado con personas o actividades empresariales debe entregarse a las herramientas de IA generativa para la creación de avisos podría ser un buen comienzo.

Además de estos riesgos, tu política también debe tener en cuenta los riesgos generales de seguridad y cumplimiento que conlleva el uso de cualquier herramienta de terceros con fines empresariales, así como los daños a la reputación derivados de infracciones accidentales de la propiedad intelectual, filtraciones de datos o contenidos tendenciosos.

crear la política de IA generativa de tu empresa

reunir a tus expertos

Además de los conocimientos jurídicos y en materia de privacidad, una política eficaz de IA generativa también requerirá la aportación de las personas que la utilizan, ya sean de marketing, ingeniería, RR.HH o ventas. Ellos son los que mejor saben cómo se utiliza la IA generativa en la empresa y los riesgos potenciales de la tecnología que pueden surgir en sus áreas de uso.

hacer correr la voz

Crear una política de IA puede ser difícil, pero asegurarse de que los empleados la reconocen y aceptan es un reto aún mayor. Afortunadamente, la mayoría de los estudios e informes muestran que los trabajadores de todo el mundo están entusiasmados con el potencial de la IA en el lugar de trabajo, por lo que la aplicación de la política a través de una comunicación interna eficaz, la formación y el debate puede ser más fácil de lo que pensás. Como ocurre con cualquier política, es importante hacerla cumplir a través de los canales habituales, pero es mejor prevenir los incumplimientos desde el principio atrayendo a los empleados hacia la política y la IA generativa en general.

asegurate de que se deje margen para la innovación

Tu política es una herramienta clave para protegerte de los riesgos potenciales de la IA generativa. Pero no debe ser tan estricta que dificulte su uso innecesariamente. La IA generativa tiene un gran potencial en toda empresa, por lo que hacer que los empleados se muestren reacios a utilizarla con una política demasiado restrictiva sería el camino equivocado. En su lugar, centrate en prevenir los riesgos más graves en la política, y utilizá la formación y la comunicación para mostrar a los empleados lo importante que es el uso responsable de la IA.

¿cuánto tiempo se tarda en crear una política de IA generativa?

Tu política de IA generativa no necesita ser especialmente larga para ser eficaz, pero el tiempo que tardará en crearse depende totalmente de las características específicas de tu organización. El número de personas implicadas en el proceso, la sensibilidad de los casos de uso de la IA generativa y el tamaño de la organización influyen notoriamente.

Sin embargo, es posible acelerar el proceso empezando con una guía para la creación de política de IA generativa. Descargá la nuestra para obtener una sugerencia para la estructura básica de su política, junto con consejos y orientación sobre lo que debe tener en cuenta durante el proceso de creación de la política. Es un buen punto de partida si tu empresa quiere empezar a tomarse en serio la IA generativa.