En el artículo anterior Inteligencia Artificial: ¿cara o cruz? (Parte I) hablamos sobre la inteligencia artificial, qué es, cómo funciona y en qué puede ayudarnos (la cara de la IA). También vimos que lleva mucho más tiempo del que pensábamos con nosotros y que los avances y beneficios son más presente que futuro, aunque todavía hay mucho por hacer y por descubrir.

En esta entrada nos centraremos en la cruz, es decir, en los peligros de la IA.

Llegados a este punto, quizá estéis pensando “vale, entonces no hay de qué preocuparse, la IA lleva mucho con nosotros y tampoco es para tanto lo que hace ¿qué peligros puede tener?”.

En realidad hay muchos riesgos que, en ocasiones, pueden llegar a tener impacto sobre nuestra propia integridad física. Aquí vamos a ver algunos de los más relevantes:

Ética y salud

Sesgos con implicaciones sociales. Si el modelo entrenado contiene datos que no representan de forma correcta la realidad o si la realidad ya está sesgada de por sí, el modelo aprenderá mal. Por ejemplo, hace unos años se descubrió que el modelo que seguía Amazon para seleccionar a sus candidatos descartaba a las mujeres para tener puestos de alto rango porque históricamente solo había hombres directivos. El modelo “interpretó” que si no era hombre, no valía para el cargo. Otro caso es el relacionado con las hipotecas, aun no incluyendo atributos sensibles como la raza, se han dado casos de discriminación racial al conceder hipotecas debido a que ciertos CP se asocian con determinadas etnias e ingresos en algunos países. Vivir en un CP ya hacía que el modelo denegara la hipoteca.

Desinformación

Existen “bots” que se dedican a crear cuentas falsas para distribuir información incorrecta o falsa, haciendo que los bulos o noticias falsas se esparzan de forma muy rápida. Con la llegada de herramientas como chatGPT, este problema se puede ver incrementado, ya que al hacerle preguntas no proporciona las fuentes de las que extrae la información, y si lo hace, estas pueden ser inventadas. En ocasiones sufre de delirios, y es que se inventa la información. Además, es posible engañarlo para que proporcione, por ejemplo, fórmulas para crear veneno. Todo esto tiene serias repercusiones, desde perjudicar la marca o la imagen pública de ciertas personas o entidades hasta polarizar la opinión pública, influenciar los resultados electorales o proporcionar información que puede dañar físicamente a las personas (el caso del veneno con GPT o el caso de noticias falsas como la hidroxicloroquina o desinfectante para tratar el covid, según Trump).

Sustitución trabajadores

Conforme evolucione la IA y se generalice su uso, es posible que algunos puestos de trabajo (especialmente los más mecánicos) tiendan a desaparecer. Por ejemplo, podremos ver cómo puestos de clasificación y empaquetado o reparto a domicilio se pueden ver reemplazados. También tareas repetitivas como la de lectura y organización de archivos podría ser realizada de forma autónoma por ordenadores o robots. En estos casos, el problema no es solo el reemplazo de un ser humano, sino también a nivel ético-legal ¿qué pasa con esos robots? ¿Deberán pagar por ellos los empleadores? En la siguiente imagen se ilustra el impacto de la IA en el mercado laboral¹.

Propiedad intelectual

En cuanto a la propiedad intelectual, ¿qué sucede con los derechos de autor si un cuadro, una melodía o un escrito lo genera una IA? ¿Cómo se debe citar si para realizar un trabajo nos apoyamos en material generado por una IA? ¿De dónde proceden las obras originales en las que se “inspira la IA”? ¿Cómo se citan esas obras?

Estas y otras muchas cuestiones surgen (y de hecho ya han sido planteadas por artistas famosos, incluso llegando a Hollywood). Otro problema está relacionado con la desinformación ¿qué ocurre si nos basamos en información generada por una IA para escribir un informe o artículo pero esa información no es correcta?

Ciberseguridad

La IA también puede ser utilizada para mejorar los ataques “tradicionales”, siendo posible obtener ataques más complejos, perjudiciales y difíciles de detectar.

• Ciberguerra. Este es un caso particular de la ciberseguridad, en el que las implicaciones y los afectados no son particulares o empresas, sino un país y todas sus infraestructuras. Cuando hablamos de infraestructuras, no solo nos referimos a sistemas administrativos, sino a la propia energía o al transporte.
• Riesgos físicos. Si un ciberataque está relacionado con un sistema ciberfísico, puede tener repercusiones nefastas: desde dejar sin suministro de agua o energía a una ciudad o un hospital hasta contaminar/envenenar el agua o los alimentos que consumimos. En 2021, por ejemplo, unos atacantes intentaron envenenar a la población de Florida alterando el sistema de depuración de sus aguas. Gracias a la de detección de intrusiones, se pudo mitigar a tiempo el ataque. Algo similar ocurrió también unos meses antes en Israel.
• Privacidad. También se trata de un caso particular en el que los ataques o incidentes de seguridad tienen como consecuencia la exposición de datos privados o sensibles. En la siguiente imagen se pueden observar las fugas de datos que ha habido durante los dos últimos años. El tamaño del círculo indica la cantidad de registros comprometidos².

Conclusión y reflexión final

Como se puede comprobar, la IA tiene un lado muy positivo, que es el que mostramos en Inteligencia Artificial: ¿cara o cruz? (Parte I). Idealmente, está concebida para ayudarnos y hacernos la vida más fácil en muchos aspectos. Además de todo lo mencionado, hay múltiples usos que no hemos visto, y otros tantos que surgirán.

Por otra parte, la inteligencia artificial también puede ser utilizada para contrarrestar y/o prevenir los propios riesgos de la IA. Por ejemplo, se puede utilizar para combatir la desinformación o mejorar la ciberseguridad. En el proyecto CICERO, que acabamos de comenzar hace poco en Fidesol, tratamos justamente las dos caras de la IA generativa: por un lado, intentamos ayudar a solventar algunos de los problemas y riesgos derivados de su uso, como las alucinaciones, y por otro lado, la utilizamos para ayudar a mejorar la ciberseguridad, haciendo por ejemplo que sean más interpretables los resultados de los algoritmos de detección.

En cuanto a los puestos de trabajo, si bien es cierto que se prevé que se destruyan puestos de trabajo y se sustituyan tareas repetitivas, también se prevé que se generen nuevos puestos de trabajo, tal y como se muestra en verde en la Ilustración 1. Además, el impacto que la IA tendrá en la mayoría de nosotros será similar al que tuvieron otros avances en su día, como Internet o la Informática. Imaginad, por ejemplo, cómo se reduciría el esfuerzo en el caso de un abogado o un funcionario que, en lugar de tener que revisar miles de documentos, pudiera obtener un resumen de forma rápida y sencilla para facilitar su trabajo. O pensad en la reducción de los costes de producción y la mejora de la sostenibilidad de una empresa que opta por utilizar reconocimiento de imágenes para detectar el grado de madurez de un fruto. Este último ejemplo se corresponde con un caso real que tenemos muy cerca: se trata del proyecto Evocato, llevado a cabo en el Grupo La Caña y gracias al trabajo de la UGR, Nazaríes y Fidesol (+ info).

Quisiéramos concluir con una reflexión: hemos visto las dos caras de una misma moneda, riesgos y beneficios de la IA. Nos gustaría transmitir un mensaje positivo, en el sentido de que la IA tiene muchas ventajas, pero también de concienciación, ya que creo que es necesario respetar y conocer la IA, no temerla. No se trata de rechazarla o creer que todo va a ser malo, sino simplemente saber cómo funciona y cuáles son las implicaciones de utilizarla (especialmente si no se utiliza bien). Al igual que cuando cruzamos con un semáforo en rojo sabemos que no es correcto, pero lo hacemos y asumimos las posibles consecuencias, con el uso de la IA y las nuevas tecnologías debemos hacer igual. Conocer es la clave para decidir.

Enlaces de interés

• https://edition.cnn.com/2021/02/10/us/florida-water-poison-cyber/index.html
• https://informationisbeautiful.net/visualizations/worlds-biggest-data-breaches-hacks/
• https://www.grupolacana.com/evocato-un-paso-mas-hacia-una-agriculturasostenible/

1. Ilustración 1. Impacto de la IA en el mercado laboral español. FUENTE: https://www.20minutos.es/noticia/5222059/0/expansion-inteligencia-artificial-creara-millones-puestos-trabajo-espana-programacion ↩︎
2. Ilustración 2. Fugas de datos y hackeos durante los dos últimos años. FUENTE: https://informationisbeautiful.net/visualizations/worlds-biggest-data-breaches-hacks/ ↩︎