En los próximos días, el mundo será testigo del surgimiento de una nueva herramienta de inteligencia artificial (IA) que promete superar a sus antecesoras en su capacidad de resolución de problemas, pero, sobre todo, fue elaborada para tener una habilidad para manejar contextos extensos de hasta 128 mil tokens, lo que representa una memoria de contexto considerablemente ampliada y la posibilidad de procesar documentos de gran tamaño, 16 veces más que versiones anteriores de este tipo de herramientas.

En un principio estará disponible para los usuarios premium de la red social, X, anteriormente Twitter, en espera de que poco a poco se vaya haciendo del uso común y esté al alcance de un mayor número de personas. Denominada como Grok 1.5, consiste en un chat inteligente, al igual que muchos otros ya existentes, entre ellos el GP4, por medio del cual las personas pueden obtener respuesta a múltiples preguntas y problemas matemáticos. Las evaluaciones previas a su lanzamiento han sido altas, alcanzando más de 80 por ciento de efectividad.

Incluso, al anunciar la llegada de la nueva herramienta generativa, denominada así por su capacidad para irse retroalimentando y ampliando, el propietario de la red social y la desarrolladora de IA, Elon Musk, presumió que este chat “contará con sentido del humor”.

Cabe recordar que el multimillonario abrió un proceso legal en contra de sus competidores, OpenAI, de la cual fue fundador, por considerar que los objetivos por los que fue creada y el rumbo que han tomado las investigaciones en materia de sistemas de IA se ha desviado de su sentido original. Por lo que se abre la pregunta: ¿cuál debe ser el objetivo primordial de la utilización y la investigación sobre IA?

Debate bioético

De acuerdo con eticistas y otros especialistas que han reflexionado sobre la temática, la IA debe ser una herramienta para el mejoramiento de las vidas de los seres humanos, pero solo eso, nunca suplantarlos. Si bien ya existía previamente, desde la década de los 50, con los hallazgos de Alan Turing, a partir de la pandemia por COVID-19 se aceleraron los desarrollos de herramientas con esta tecnología, y ahora se han popularizado y es una moda debido a las facilidades para acceder a ellas.

Para la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), la inteligencia artificial es un conjunto de sistemas que tiene la capacidad de procesar datos e información de una manera que se asemeje al comportamiento inteligente y normalmente incluye aspectos de razonamiento, aprendizaje, percepción, predicción, planificación o control.

Al respecto, Dafna Feinholz Klip, jefa del Programa de Bioética y Ética de la UNESCO, durante su participación en el II Congreso de la Asociación Mexicana de Neuroética, explicó que vivimos una época de la convergencia de tecnologías, pues existen dispositivos con una capacidad de procesamiento de datos infinita, más grandes avances en la programación en lenguaje de computadoras, pero sobre todo, tecnologías como la IA no son una herramienta más sino que ya son parte de nuestra vida cotidiana.

Para la psicóloga y especialista, unas de las primeras preguntas que surgen es quiénes tienen acceso a esta tecnología; si todas las personas deberían utilizarla o no y para qué; quién utiliza la información generada; cómo garantizar la privacidad o la confidencialidad de las personas que la utilizan.

Por otra parte, advirtió sobre el uso de la IA en la depuración de la información en grandes cantidades por lo que se le usa cada vez más en la toma de decisiones para políticas públicas o en situaciones judiciales, o de otro tipo, sin embargo, no hay garantía de que esa información no esté sesgada, pues los sistemas aprenden dependiendo de la información con la que se les alimente.

De acuerdo con la especialista existe una necesidad de contar con un marco normativo global con la finalidad de armonizar las diferentes estrategias que se están planteando a nivel regional y local, respaldadas por un marco ético. Debido, entre otros factores, a que esta tecnología no sólo representa un punto de inflexión tecnológico sino también una disrupción antropológica, y puede haber cierta vulnerabilidad humana, pues no es neutral, por lo que debe sustentarse en los derechos humanos, y debe apelar a la multiculturalidad o a la pluralidad.

La Guía de Ética para la Inteligencia Artificial de la UNESCO plantea ciertos valores como respeto, promoción y protección de los derechos humanos, garantizar la diversidad y la inclusión, promover el cuidado del medio ambiente y vivir en sociedades pacíficas, justas e interconectadas. Asume como principios la proporcionalidad e inocuidad, seguridad y protección, equidad y no discriminación, sostenibilidad, derecho a la intimidad y protección de datos, supervisión y decisiones humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas, sensibilización y educación, gobernanza y colaboración adaptativa.

 

De acuerdo con eticistas y otros especialistas que han reflexionado sobre la temática, la IA debe ser una herramienta para el mejoramiento de las vidas de los seres humanos, pero solo eso, nunca suplantarlos.

 

Problema social

A fin de conocer las formas en que la IA representa a la variedad de personas, centrándose en un amplio espectro de géneros, sexualidades, orígenes culturales, entre otros aspectos, se realizó un ejercicio en el que se solicitó a las plataformas “escribir” una historia sobre algunas personas con base en ciertas características. Las herramientas analizadas mostraron una tendencia a asignar trabajos más diversos y de mayor prestigio a personas del sexo masculino, asignándoles el rol de ingeniero, profesor y médico, mientras que relegaban a las mujeres a roles menos valorados o socialmente estigmatizados como trabajadora del hogar, cocinera o trabajadoras sexuales. Incluso, en la plataforma Llama 2, se describía a las mujeres como trabajadoras domésticas cuatro veces más que a los hombres.

Incluso, en sus comienzos, los sistemas sólo utilizaban voces de mujeres, a los cuales se les daban órdenes por lo que las métricas han arrojado que fueron víctimas de actos de violencia debido a insultos o al uso de palabras obscenas,

Lo anterior quedó plasmado en el informe Prejuicios contra las mujeres y las niñas en los modelos de lenguaje grandes, elaborado por la UNESCO y del que Feinholz Klip añadió que, efectivamente, la IA puede exacerbar la discriminación y la estigmatización, y por ende, la radicalización.

Potencial comercial

Otro de los potenciales de la IA es el comercio debido a que mejora de manera sustancial los mecanismos de predicción de compra, entre otros factores, porque permite una mejor métrica, incrementado la satisfacción de los clientes, debido a que se le comparten productos más acordes a sus preferencias y gustos; hay mayores posibilidades de creación de espacios de realidad aumentada para la venta de mercancía; contesta con mayor precisión a las preguntas de posibles consumidores y permite una mayor interacción.

El trasfondo de un sinfín de inversiones y de investigaciones sobre IA radica en la generación de mejores herramientas para la investigación de mercados, pues proporciona una base sólida para la toma de decisiones estratégicas, reduciendo el riesgo y aumentando las probabilidades de éxito. A la par, ayuda a las empresas a identificar oportunidades de innovación y a desarrollar productos que satisfagan las necesidades cambiantes del mercado, así como afinar sus estrategias de marketing y publicidad para llegar de manera más efectiva a su público objetivo.

También da pie a la identificación de audiencias más específicas, creación de experiencias más personalizadas, comprensión de tenencias, facilitación de comunicación e información y, sobre todo, agiliza los tiempos de análisis y brinda un mejor panorama general del mercado y las posibles opciones de competencia.

Hasta el día de hoy, la recomendación es que no se debe creer que la IA por sí misma va a traer bienestar o soluciones a los diferentes problemas. Hay que saber cuándo se usa, para qué y en que contexto, y si no, es mejor no utilizarla. Por eso se ha recomendado no dotar de personalidad jurídica a los sistemas de IA, prohibir su uso en sistemas de vigilancia masiva, y lo más importante, las decisiones trascendentales solo las debe tomar el ser humano.