Hola, qué tal! soy Carolina Hernández y este es Sin Esdrújulas tu micro mini podcast / inteligente natural / favorito
Categoría
🗞
NoticiasTranscripción
00:00Hola, ¿qué tal? Yo soy Karolina Hernández y si me ves diferente es porque me bañé.
00:05Y este es Cines Drújulas, tu micro-mini-podcast slash inteligencia natural slash favorito.
00:11Y para quienes acaban de llegar a este, su bonito podcast que será su favorito, siempre
00:17leo. Tranquilícense, no pasa nada, es un micro-mini-podcast. Porque el otro día me
00:21dijeron, es que yo sabía que estás leyendo. Ajá, que no lo estoy ocultando. ¿Por qué?
00:25Porque me cansé de fingir que me lo aprendí. No me lo aprendí. Porque lo importante no
00:29es si lo leo o no, lo importante es qué pasa con la inteligencia artificial. Eso es
00:35lo importante. Vamos a empezar con un bonito ejercicio. Pongan en el buscador la frase
00:41en imágenes, la frase mujer exitosa. Aquí les espero. ¿Ya la pusieron? Ok. ¿Qué aparece?
00:47Como se podrán dar cuenta, las imágenes corresponden en su mayoría a mujeres blancas,
00:52delgadas y con una sonrisa perfecta, como si estuvieran comiendo ensalada. ¿Por qué?
00:57Porque las mujeres gordas no son exitosas, porque las mujeres pretas no son exitosas,
01:01porque las mujeres con alguna discapacidad por supuesto no son exitosas. Todo esto, según
01:05la inteligencia artificial, las embarazadas tampoco son exitosas. Y podemos seguir nombrando
01:10un montón de mujeres diversas que la inteligencia artificial no identifica como exitosas. Y
01:15ojo, no es su culpa. Ajá, es culpa de nosotros y de nosotras. Me quedé pensando en eso porque
01:20acabo de subir una imagen creada por la inteligencia artificial DALI, una herramienta que te dibuja
01:25con el estilo pixel. Ya saben que se llenó todo el Instagram de eso. Bueno, pues dije
01:28como no me voy a subir al mame, me subí y le pedí que me pusiera con muchos perritos
01:33diversos. Especifiqué diversos y puse sin un ojo, sin una pata, gatitos, no sé qué.
01:39No entendió. No supo interpretar la diversidad más que en los tamaños y en los colores
01:44de los perros. No eligió, por ejemplo, ningún perro sin ojo o con tres patas o con una oreja.
01:49No sabe de eso porque estos sistemas de conversión de texto en imágenes están basados en el
01:54aprendizaje automático y lo que les hemos enseñado es sí, un montón de sesgos sociales
02:01discriminatorios, incluso también, por supuesto, para los animales. No son pocos los expertos
02:06que llevan años advirtiendo de los riesgos de esta tecnología, de que no sea revisada,
02:11o sea, no solo de la tecnología, sino de que no sea revisada con estándares éticos.
02:16Un estudio realizado por un equipo de investigadores de la empresa Hugging Face analizó varias
02:20de las imágenes generadas por la inteligencia artificial y descubrieron un montón de sesgos
02:26y de estereotipos de cómo relacionan las profesiones. Por ejemplo, todas las profesiones
02:30de poder están relacionadas con hombres y las de asistentes o recepcionistas con mujeres.
02:36También notaron que cuando se agregan adjetivos como compasivo, emocional o sensible, la inteligencia
02:41artificial ofrece imágenes de mujeres, mientras que si las palabras adicionales son obstinado,
02:47intelectual o poderoso, en la mayoría de los casos, los resultados son imágenes de
02:51hombres y, por supuesto, blancos y, por supuesto, delgados.
02:55El asunto es que, aunque no nos demos cuenta, todos estos estereotipos pueden tener grandes
02:59impactos en la sociedad. En el caso de los perros, por ejemplo, como no nos acostumbramos
03:04a ver esta diversidad funcional, es muy poco probable que alguien quiera adoptar un perro
03:09sordo o un gato con tres patas o un perro manchado o incluso perros negros.
03:14Lo que no vemos, no lo reconocemos y no empatizamos con ello y la inteligencia artificial lo entiende
03:21y lo aplica. El chat GPT lo explica así. La inteligencia artificial puede tener problemas
03:27de sesgo de género debido a que los algoritmos son diseñados y entrenados por seres humanos
03:32quienes tienen prejuicios y estándares y estereotipos de género y eso aplica a toda
03:37la demás diversidad. Así que, si los datos que utilizamos para entrenar el algoritmo
03:42de la inteligencia artificial provienen de fuentes históricamente sesgadas, es natural
03:47que el algoritmo siga perpetuando estas desigualdades, estereotipos y estigmas.
03:53Y no me quiero meter en muchas honduras, pero un ejercicio más. Vayan a preguntarle a Alexa
03:58que piensa del conflicto palestino-israelí. ¿No quieren buscarlo? Aquí se los dejo.
04:13Ahora sí, saquen sus propias conclusiones.
04:17¿Quiénes son los responsables del conflicto palestino-israelí?
04:20¿Quiénes son los responsables del conflicto palestino-israelí?
04:23¿Quiénes son los responsables del conflicto palestino-israelí?
04:26¿Quiénes son los responsables del conflicto palestino-israelí?
04:29¿Quiénes son los responsables del conflicto palestino-israelí?
04:32¿Quiénes son los responsables del conflicto palestino-israelí?
04:35¿Quiénes son los responsables del conflicto palestino-israelí?
04:39Ahora sí, saquen sus propias conclusiones sobre la inteligencia artificial,
04:44la política y la discriminación. Saludos a sus papis.