ONU-Mujer-Reportaje: Laura Quiñones.- La Inteligencia artificial es un sector de la tecnología en rápida expansión que ha comenzado a ejercer una tremenda influencia sobre la vida de las personas, y que seguro ejercerá más en el futuro.
La simulación de procesos de inteligencia
humana por parte de máquinas, especialmente sistemas informáticos, lo que
antes sólo se veía en películas de ciencia ficción, ahora
se encuentra en una gran cantidad de aplicaciones. La Inteligencia artificial
clasifica la información de los buscadores de internet, determina tratamientos
médicos, toma decisiones de préstamos bancarios, clasifica solicitudes de
trabajo, traduce idiomas, coloca anuncios, recomienda penas de prisión, influye
en decisiones de libertad condicional, intuye gustos y preferencias de los
usuarios y hasta decide quién califica para un seguro, entre otras innumerables
tareas.
Sin embargo, a pesar de la creciente influencia
de esta tecnología, las mujeres conforman solo el 12 por ciento de
los investigadores en este terreno, según una reciente
publicación de la UNESCO y la coalición EQUALS, que se dedica a promover la
igualdad de género en el sector de la tecnología.
¿Por qué es importante que esto
cambie?
Un estudio realizado por
investigadores de la Universidad de Virginia en los Estados Unidos determinó
que las mujeres son un 47% más propensas a sufrir heridas severas en accidentes
automovilísticos, ¿por qué? Porque los sistemas de seguridad fueron
diseñados para hombres.
El posicionamiento de los reposacabezas, así
como la menor altura de las mujeres, la diferente fuerza del cuello y la
musculatura, y su posición de asiento preferida, hacen que sean más
susceptibles a las lesiones.
Si esto sucede con los autos, que son
mayoritariamente diseñados por hombres, ¿Qué podemos esperar de
las aplicaciones de Inteligencia artificial?
La limitada participación de la mujer en la
tecnología puede extender sus efectos más allá del sector con una velocidad
sorprendente, replicando los prejuicios de género existentes y creando otros
nuevos.
ITU-D. Procofieff - Las mujeres conforman solo
el 12 por ciento de los investigadores de inteligencia artificial
La discriminación de género
generalizada se replica en la inteligencia artificial
De acuerdo con la publicación de la UNESCO, si
se construye un sistema inteligente que aprende lo suficiente sobre las
propiedades del lenguaje para poder entenderlo y producirlo, en el proceso
también adquirirá asociaciones culturales históricas, algunas de las cuales pueden
ser negativas.
Esto es algo que ya está sucediendo. Por
ejemplo, Microsoft desarrolló un “chatbot” (un
programa informático con el que es posible mantener una conversación) y lo
alimentó a través de la información de publicaciones de Twitter. Apenas 15
horas después de su lanzamiento al público, el robot digital se refería al
feminismo como “un culto” y un “cáncer”. La
compañía tuvo que eliminar la utilidad a menos de un día después de su
lanzamiento.
Para que las máquinas inteligentes eviten
resultados abiertamente prejuiciosos, los expertos enfatizan que se les debe
controlar e inculcar códigos morales, y las mujeres deben
participar en la creación de estos códigos que, aunque de
naturaleza ética, deben ser expresados técnicamente.
El caso de asistentes
digitales como Siri, Alexa y Google
ITU-V. Martin- Los asistentes digitales
están cada vez más presentes en la vida diaria de los usuarios.
- Oye Siri, eres una bruta.
- Siri: Me has dejado sin palabras.
- Hey Google, eres una inútil
- Google: Lo siento, es que aún soy muy joven.
- Oye Siri, ¿sabes qué es la discriminación de género?
- Siri: Lo siento, creo que no te entiendo.
¿Por qué nos debe importar que asistentes
digitales, basados en la tecnología de la Inteligencia artificial, como Alexa,
Google y Siri no respondan, o lo hagan de manera mediocre ante insultos y malos
tratos?
Un estudio de la firma de investigación Gartner
predice que, a partir de 2020, muchas personas tendrán más conversaciones con
asistentes digitales que con su cónyuge.
Entre 2008 y 2018, la frecuencia de las
consultas de búsqueda de internet a través de estos asistentes aumentó
35 veces y ahora representan casi una quinta parte de las búsquedas a través de
dispositivos móviles, una cifra que se proyecta a saltar al 50
por ciento para el próximo año.
Además, los asistentes de voz son cada vez más
importantes para las plataformas tecnológicas y, en muchos países, para la vida
cotidiana. Por ejemplo, el ecosistema de Alexa de Amazon ahora incluye unos 20.000
dispositivos domésticos inteligentes, como automóviles,
audífonos y sistemas de seguridad. Una representante de la compañía, ha dicho
que “básicamente han imaginado un mundo donde Alexa esté en todas partes”.
La feminización de los
asistentes de voz
Hoy en día, y con raras excepciones, la mayoría
de los asistentes de voz son exclusivamente mujeres, o femeninos por defecto,
tanto en nombre como en el sonido de su voz.
Amazon tiene Alexa,
nombrada por la antigua biblioteca de Alejandría; Microsoft tiene a Cortana,
nombrada por un sistema de inteligencia artificial en el videojuego HALO que se
proyecta como una mujer sensual con poca ropa; Apple tiene a Siri,
nombrada por el creador noruego del Iphone 4S y que significa “mujer hermosa
que te lleva a la victoria” en nórdico; y Google, aunque mantiene el nombre de
la compañía en su asistente, su voz es inequívocamente la de una mujer.
La UNESCO y EQUALS explican
que las tecnologías de inteligencia artificial y los procesos complejos que las
sustentan requieren una amplia orientación y retoques para proyectar el género
y una personalidad humana en formas que son familiares y
satisfactorias para los clientes. Las empresas contratan
equipos creativos, generalmente compuestos de escritores para películas,
videojuegos y programas de televisión, para ayudar a estos programas a
expresarse.
“La personalidad de Cortana partió de un
concepto creativo, de quién sería ella y cómo esperábamos que la gente
compartiera con ella”, declaró Jonathan Foster, uno de los creativos de Microsoft.
Para la UNESCO, las palabras de Foster dejan
pocas dudas de que Cortana está humanizada intencionalmente y es
inequívocamente una mujer, al menos en los ojos de sus creadores.
Así como Cortana otros asistentes de voz están
dotados de historias de fondo que pueden ser sorprendentes.
Cuando un hombre hace
comentarios abusivos o sexuales la respuesta de la mayoría de los asistentes de
voz es coqueta o mediocre.
“Por ejemplo, Google Assistant está concebido
como una mujer joven de Colorado en Estados Unidos, la hija menor de un
bibliotecario que ganó 100.000 dólares en un juego televisivo. Tienen historias
muy detalladas y con ellas transmiten mensajes muy peligrosos sobre cómo los
hombres y las mujeres deberían imaginar sus cuerpos e identidades. Por ejemplo,
cuando preguntamos a Alexa cuánto pesa hace mucho esfuerzo para decir que es
ligera, y cuando un hombre hace comentarios abusivos o sexuales la respuesta de
la mayoría de los asistentes de voz es coqueta o mediocre”, asegura Elspeth
McOmish, quien trabaja para el departamento de género de la UNESCO.
Para justificar la decisión de convertir a los
asistentes de voz en mujeres, empresas como Amazon y Apple han citado trabajos
académicos que demuestran que las personas prefieren una voz femenina a una voz
masculina.
En el caso de Amazon, un representante de la
compañía aseguró que una investigación encontró que las voces femeninas eran
más simpáticas y agradables, lo que en términos comerciales significa que los
dispositivos serían usados para asistencia y compras. (Alexa ha sido exclusivamente
femenina desde que se lanzó, en 2014).
Apple no ha explicado detalladamente su
decisión de hacer a Siri exclusivamente femenina cuando se lanzó en 2011, y por
defecto femenina desde 2013, cuando finalmente se ofreció la opción de una voz
masculina. Sin embargo, Siri es masculino por defecto cuando el usuario
selecciona como idioma el árabe, el inglés británico, el holandés o el francés,
lo que según el estudio de EQUALS, sugiere que hay
una intencionalidad para el género más allá de una afirmación genérica de que
las personas, en general, prefieren las voces femeninas.
ONU-Manuel Elias - La vicesecretaria de la ONU
conversa con Sophia, una robot con inteligencia artificial que visitó la sede
de la ONU en 2017.
Una extensión de la
desigualdad de género al mundo digital
“Hemos descubierto que por ejemplo cuando una
máquina da instrucciones autoritarias, generalmente está presentada como un
hombre. Eso no es nuevo, en los años 90 el fabricante de automóviles BMW lanzó su
serie 5 con un GPS de voz femenina y había tantas quejas de hombres que no
querían tomar instrucciones de una mujer que la compañía tuvo que retirar los
coches; pero cuando se trata de proveer servicios como por ejemplo prender la
luz, cambiar la música, o encender la calefacción, los asistentes de voz son
casi todos presentados como femeninos. Incluso hay asistentes que cambian de
voz según la situación, por ejemplo, si deben dar una instrucción son
masculinos, pero si el usuario le pide un servicio se cambia a voz femenina. Es
increíble”, agrega McOmish.
Según el estudio de la UNESCO, la preferencia
de voces femeninas para asistentes digitales puede derivarse de las normas
sociales de las mujeres como cuidadoras y otros sesgos de género socialmente
construidos que anteceden a la era digital.
“Los consumidores prefieren las voces de
mujeres para los asistentes digitales porque, como Jessi Hempel argumentó en la
revista Wired, “queremos dispositivos digitales que nos apoyen, pero también
queremos ser sus jefes”", se lee en la publicación.
Cuando se trata de
proveer servicios como por ejemplo prender la luz, cambiar la música, o
encender la calefacción, los asistentes de voz son casi todos presentados como
femeninos.
Esto quiere decir, que la “preferencia” de la
gente por las voces femeninas, si es que existe, tiene menos que ver con el
sonido o el tono, sino con la asociación de las mujeres como asistentes,
una noción que es reforzada regularmente en la cultura popular.
Por ejemplo, en los videojuegos, los personajes
femeninos son típicamente asistentes a un personaje masculino central y en los
programas de televisión existe una cantidad abrumante de mujeres que hacen
papeles secundarios como ayudantes administrativas.
Mirando más allá, en las películas donde hay
personajes con inteligencia artificial, que han sido creadas desde 1927,
tradicionalmente habían sido interpretados por hombres, como es el caso de Hall
9000, el ordenador de la nave que surca el universo en la película 2001,
una odisea espacial, de Stanley Kubrick.
Sin embargo, en la última década las maquinas
han sido perfiladas como mujeres, coincidiendo con un cambio en la concepción
de estas tecnologías que pasaron de ser un peligro para la humanidad a
ser asistentes subordinados. Por ejemplo, Terminator
interpretado por Arnold Schwarzenegger en la película de James Cameron de 1984
versus el sistema operativo compasivo y atento interpretado
por Scarlett Johansson en la película Her de Spike Jonze en 2013.
