Los modelos de generación de imágenes a partir de texto a menudo reproducen estereotipos sexistas y racistas. Si las bases de datos con las que aprendieron no son neutrales, tampoco lo serán las imágenes de IA. Lo mismo ocurre con la aplicación Lensa, que genera avatares con IA.
Cuando Amazon creó el eslogan "ask Alexa" (pregúntale o pídele a Alexa) para su asistente virtual, probablemente no pensó en la naturaleza sexual que tendrían algunas de sus peticiones.
Puede que "ella" presuma de un conocimiento enciclopédico, pero las investigaciones de la compañía sobre comportamientos del consumidor Canvas 8 revelan que algunos usuarios están más interesados en un ligoteo.
En el poco tiempo que esta 'v-tuber' lleva al aire, ya ha dado de qué hablar. No solo por frases con humor negro o vulgares, sino por algunos controversiales comentarios.
Neuro-sama, la polémica y popular 'streamer' controlada por inteligencia artificial que causa sensación en Twitch
Neuro-sama
En plataformas como YouTube o Twitch son cada vez más comunes los llamados Virtual Youtuber ('v-tubers'), usuarios que crean contenido audiovisual y lo comparten usando avatares animados con herramientas virtuales que, por lo general, tienen una estética anime y suelen ser personajes femeninos.
Esta tendencia se inició en Japón hace varios años y desde entonces ha venido evolucionado. Y lo ha hecho hasta tal punto que, hace pocas semanas, una de las estrellas en ascenso dentro de este fenómeno virtual ni siquiera es humana. Se trata de Neuro-sama, una 'v-tuber' controlada por inteligencia artificial (IA) que es ya tendencia.
Vedal, seudónimo de su desarrollador, aseguró en una entrevista al portal Vice este mes que este modelo de IA nació en 2018, originalmente para jugar el videojuego de ritmo 'Osu!'. En ese entonces no contaba con un avatar ni tenía la capacidad de hablar. En diciembre pasado, Vedal relanzó su red neural como 'v-tuber' en Twitch (@vedal987), desde donde realiza transmisiones mostrando sus habilidades en Minecraft y el propio 'Osu!'. Neuro-sama tiene la voz y la apariencia de un personaje de anime japonés e interactúa con sus más de 111.000 seguidores.
"La convertí en una transmisora de Twitch para que pudiera interactuar con su audiencia en tiempo real. Gran parte de la diversión proviene de sus interacciones con el chat de Twitch. Creo que los fanáticos juegan un papel importante en su éxito y en lo divertidas que son sus transmisiones. Tener las interacciones con el chat de Twitch es lo que la hace entretenida de ver. Sin eso, no creo que tendría tanto éxito", comenta Vendal.
En el ojo de la controversia
Neuro-sama parte de la base de un modelo de IA entrenado con enormes cantidades de textos extraídos de Internet. Su código abierto, como el de muchos otros modelos de su tipo, lo hace propenso a imitar estereotipos racistas y sexistas humanos. Por tal motivo, pese a ser completamente automatizada, Neuro-sama y su chat son monitoreados por un equipo de personas. "Por supuesto, existen muchos filtros para evitar que sea inapropiada u ofensiva, incluidos algunos impulsados por IA, pero actualmente es necesario que haya un humano allí para moderar", subraya Vedal.
A pesar de todas estas precauciones, en el poco tiempo que esta 'streamer' lleva al aire, ya ha dado de qué hablar, no solo por frases con humor negro o vulgares, sino por algunos controversiales comentarios. Sus espectadores suelen pedirle opiniones sobre política y fenómenos sociales y, a menudo, tiene que lidiar con preguntas difíciles que no siempre resuelve con éxito.
Una de las más polémicas declaraciones de Neuro-sama surgió a finales de diciembre, cuando dijo que dudaba que el Holocausto (genocidio perpetrado por la Alemania nazi) fuera real. Eso parece haber catapultado su popularidad, pero días después fue vetada por dos semanas en Twitch. Aunque los motivos concretos no se conocen, se presume que la plataforma consideró estas palabras y algunas otras opiniones como inapropiadas y contrarias a sus reglas.
El canal ya está en línea de nuevo tras la prohibición. Neuro-sama regresó mejorada y continúa impresionando a sus espectadores con respuestas graciosas, aunque igualmente desconcertantes. Se espera que en un futuro no solo pueda enfrentarse a juegos más complicados, sino que aprenda de sus errores y logre entablar diálogos cada vez más precisos, e incluso sepa lidiar con bromistas, provocadores y con preguntas abiertas difíciles de responder.
Una tecnología que permite inmortalizar no solo a los fallecidos, sino cualquier etapa de la vida de una persona, para conversar con ella en el futuro.
Al igual que un capítulo de la serie Black Mirror, un grupo de investigadores creó una herramienta, conocida como StoryFile, que permite a las personas despedirse de sus seres queridosincluso tiempo después de su fallecimiento. Según informaron los expertos, la función tiene la capacidad de crearclones digitalesde una persona con la utilización de 20 cámaras sincronizadas.
Hubo un tiempo en el que más de un erudito estaba convencido de que llegaba con analizar en detalle el cráneo de una persona para averiguar su carácter. Si eras violento, paciente, reflexivo, un buen candidato a compañero de piso o un enemigo con el que más valía no cruzarse estaba, todo, al alcance de quien supiera leer los relieves de tu sesera. A semejante doctrina se la conoce como frenología y si bien en el XIX logró cierto predicamento hoy se considera una pseudociencia.
Visto con perspectiva quizás te parezca una chifladura decimonónica, pero investigadores de la Universidad de Cambridge acaban de advertir que en pleno 2022 algunos usos que hacemos de la inteligencia artificial para seleccionar personal en las empresas tal vez no sean mucho mejores.
Ni más objetivo ni más justo. En su estudio —publicado en Philosophy and Technology— los investigadores de la Universidad de Cambridge miran con lupa dos de las ventajas que a menudo se asocian con las herramientas de IA para reclutar personal. Primero, que ayudan a evaluar de forma objetiva a los candidatos, prescindiendo de sesgos derivados del género o la raza. Segundo, que gracias a ese plus su selección resulta más justa y contribuye a incentivar la meritocracia.
La IA es imparcial —se supone—, con lo al aplicarla solo entrarán los más adecuados a las vacantes y se borra cualquier sesgo posible. La conclusión de los expertos no apunta sin embargo en esa dirección: “Estas afirmaciones son engañosas”. Y para demostrarlo esgrimen varias razones.
Cuando se simplifica demasiado. Ese es, en resumen, el primer riesgo del que alertan los investigadores de Cambridge. A lo largo de su estudio explican cómo en su intento por prescindir de la raza y el género los sistemas que aplican la inteligencia artificial a menudo “malinterpretan” ambos factores, considerándolos “atributos aislables”, etiquetas que una vez silenciadas en el expediente dejan de tener influencia, y no rasgos que se enmarcan en “sistemas de poder más amplios”.
Otro peligro similar es que la IA acabe desviando el foco. Si el objetivo del área de RRHH es fomentar una mejor cultura empresarial y delega buena parte de esa tarea en un algoritmo corre el riesgo de olvidarse de lo esencial: abordar los problemas sistémicos que existen dentro de la propia empresa. Los expertos hablan de una “externalización” de la búsqueda de diversidad y advierten que puede derivar en lo contrario: un “afianzamiento de la cultura de la desigualdad y discriminación”.
¿El «candidato ideal»? Otra de las preguntas que lanza el estudio es qué significa e implica exactamente que la IA ayude a encontrar el “candidato ideal”, así definido, por supuesto, según el criterio del empleador. “En su intento de ‘no ver’ la raza y el género, la IA en realidad puede estar menos equipada para comprender las habilidades del candidato porque han sido capacitada para ‘ver’ y observar desde la perspectiva del empleador, quien ha comunicado previamente un conjunto de características y rasgos predeterminados que denotan ‘buenos empleados’”, recoge.
El riesgo es que la IA para reducir los grupos de candidatos sirva para lo contrario de lo que se planteaba, que en vez de aumentar la diversidad fomente la uniformidad. “Según los investigadores, quienes tengan la información y antecedentes adecuados podrían `ganar a los algoritmos´ al replicar los comportamientos que la IA está programada para identificar”, abundan desde la universidad.
Pseudociencia automatizada. El riesgo, abunda el equipo del Centro de Estudios de Género de Cambridge, es que ciertos usos de la IA en procesos de contratación acaben siendo “poco mejores que una ‘pseudociencia automatizada’ que recuerda a la fisiognomía o la frenología”. Objetivo bien distinto a lógica que quieren aportar al proceso y la eliminación de cualquier posible sesgo.
Los autores del estudio de Philosophy and Technology van más allá y hablan incluso de “un ejemplo peligroso de ‘tecnosolucionismo’”, un intento de recurrir a la tecnología buscando soluciones rápidas a problemas profundos que requieren inversión y cambios en la cultura empresarial.
Una demostración práctica. Para reforzar su argumentario los investigadores han desarrollado una herramienta con IA y disponible online —puedes usarla en este link— que, supuestamente, ayuda a perfilar la personalidad de un candidato para evaluar cómo de adecuado resulta para un puesto.
¿Problema? El recurso muestra cómo pequeños cambios arbitrarios, como una alteración en la expresión del rostro o la ropa o incluso en la iluminación y el fondo, arroja lecturas completamente diferentes. “Podrían marcar la diferencia entre el rechazo y la progresión”, señala. Los investigadores reconocen en cualquier caso que las herramientas de selección de personal suelen ser de carácter propietario, con lo que resulta muy difícil conocerse exactamente cómo funcionan.
Un recurso cada vez más popular. La advertencia de los investigadores va más allá de la teoría y se centra en una herramienta cada vez más empleada, al menos según las cifras que manejan. Un estudio de 2020 elaborado con medio millar de organizaciones de cinco países concluía que el 24% había echado mano de la IA para contratar y el 56% de los responsables de reclutamiento planeaban adoptarla en cuestión de meses. Otra encuesta de dese mismo año apuntaba que el 86% de las entidades estudiadas estaban incorporando nuevas tecnologías en ese proceso.
“La tendencia ya existía cuando comenzó la pandemia y es probable que el cambio acelerado al teletrabajo causado por el COVID-19 vea un mayor despliegue de herramientas de IA en las áreas de RRHH en el futuro”, apunta Kerry Mackereth. Junto a la coautora del estudio, Eleanor Drage, señala que muchas empresas usan IA para analizar vídeos de candidatos e interpretar su personalidad. Los expertos alertan además que hay herramientas que se están aplicando con poca regulación.
El debate está servido. El equipo británico no es el primero en cuestionar las ventajas de la inteligencia artificial en el reclutamiento de personal. Al menos en ciertos casos. En 2018 Amazon decidió prescindir de un algoritmo para este tipo de procesos tras constatar que no era neutral, sino que mostraba un sesgo sexista. También hay quienes inciden en las ventajas de la IA en la selección de personal, como el ahorro de tiempo y costes y quienes, directamente, está aún en una fase inicial y realmente su implantación es aún muy reducida entre quienes buscan empleados.
«La inteligencia artificial puede ayudar de manera eficiente a aumentar la diversidad de una organización al filtrar de un grupo de candidatos más grande, pero también puede perder muchos buenos candidatos si las reglas y los datos de capacitación son incompletos e inexactos», explica Hayfa Mohzaini, del Chartered Institute of Personnel and Development, a la BBC.
.jpeg)
.jpeg)
