*

X
Un concurso supuestamente objetivo de belleza deviene un desastre cuando el algoritmo juez refleja un cierto racismo

Se suele decir que la belleza está en el ojo de quien la percibe y esto incluso parece trasladarse a la inteligencia artificial o a los algoritmos que buscan emular la inteligencia humana.

Hace unos días se celebró el primer concurso internacional de belleza en el cual los jueces fueron máquinas que supuestamente debieron de tomar marcos de referencia de data objetiva, como simetría facial, imperfecciones faciales como arrugas y cosas similares. Así, el software Beauty.AI juzgó a más de 6 mil personas de cien países para determinar los rostros más representativos de un concepto informático puro de "belleza humana".

Así la teoría, pero después de analizar los resultados los creadores del proyecto notaron algo un poco inquietante. A Beauty.AI algoritmos no le gustan las personas de piel oscura: la inteligencia artificial no celebra la diversidad. Los 44 ganadores fueron casi todos blancos, algunos asiáticos y sólo uno de piel oscura, pese a que hubo una importante participación de India y África. 

Al parecer los algoritmos reflejan los sesgos y prejuicios culturales de la misma sociedad, la cual finalmente es su universo de análisis y cuyos miembros son los que los programan. 

The Guardian señala que existen algunos antecedentes en este sentido. El chatbot Tay de Microsoft empezó a emplear lenguaje racista y a promover una ideología neonazi en Twitter; el algoritmo del news feed de Facebook "empujó" en los trending topics noticias sensacionalistas y falsas, incluyendo una nota de un hombre que se masturbaba con un sándwich de pollo.

Según Alex Zhavoronkov, de Beauty.AI, el problema probablemente viene de que las bases de datos tomadas en cuenta para idear el estándar de belleza no reflejan de manera equitativa a las minorías. Esto es un problema estructural que puede existir en todo tipo de algoritmos predictivos, ya que la programación y el mismo vaciado de la data refleja los profundos prejuicios de los seres humanos, muchos de los cuales son inconscientes. Así, la neutralidad y la objetividad de las máquinas es solamente una cómoda ilusión –nada se escapa de la visión del creador, al menos no hasta que las máquinas tengan una existencia verdaderamente autónoma y puedan autoactualizarse–, algo que, por otro lado podría ser sumamente peligroso. En este caso esto se acentúa aún más, ya que la belleza es de suyo un tema altamente subjetivo, influenciado por paradigmas socioculturales y por una programación mediática aspiracional; así, el algoritmo es cruelmente sincero en reflejar la realidad políticamente incorrecta de nuestra percepción (si bien se trata de percepción manipulada por la propaganda).

Imagen: The Guardian

 

 

No es tan improbable como se podría pensar: podríamos ser la simulación informática de una civilización con enorme poder computacional, la evolución lógica del interés de la mente por jugar y recrear la realidad

Elon Musk, el millonario filantrópico y CEO de Tesla, dio de que hablar en su participación en la Code Conference donde explicó un intrigante argumento, conocido como "la hipótesis de la simulación". Musk dijo:

El más fuerte argumento a favor de que nosotros seamos una simulación es el siguiente. Hace 40 años teníamos pong. Algo así como dos rectángulos y un punto. Eso era lo que los juegos eran. Ahora, 40 años después, tenemos simulaciones fotorrealísticas en 3D y esto está mejorando cada año. Pronto tendremos realidad virtual y realidad aumentada.

Si asumes cualquier tipo de proporción de incremento, entonces los juegos se volverán indistinguibles de la realidad, incluso si este ritmo de aumento cae a una proporción de mil veces menos de lo que avanza actualmente. Por ejemplo, imaginemos cómo sería en unos 10 mil años, que no son nada en términos evolutivos.

Así que dado el hecho de que estamos en una clara trayectoria hacia diseñar juegos indistinguibles de la realidad, y esos juegos pueden jugarse en cualquier consola o PC o lo que sea, y debería haber miles de millones de estos aparatos, de aquí podríamos deducir que las probabilidades de que existamos en una realidad base son 1 en miles de millones. ¿Díganme si encuentran algún error a este argumento?

¿Diseñar juegos de realidad virtual suficientemente reales nos convertirá en indistinguibles de los dioses? ¿Crear simulaciones del universo es la consecuencia lógica de la evolución de la exploración de la realidad en su aspecto arquetípicamente lúdico? Cuando le preguntaron a Musk cuál era realmente su opinión sobre esto, dijo lo mismo: "Hay una probabilidad de 1 en miles de millones de que existamos en una realidad base". Con "realidad base" quiere decir la realidad a partir de la cual se generan las demás simulaciones. Es decir, todo lo que no es copia y representación. Y agregó que:

de hecho deberíamos tener esperanzas de que esto sea verdad, ya que si una civilización deja de avanzar, esto debe ser el resultado de alguna calamidad que borra la civilización... o crearemos simulaciones indistinguibles de la realidad o las civilizaciones dejarán de existir. No es muy probable que simplemente entremos en una estasis de millones de años.

Musk toma su argumento de la hipótesis del filósofo de Oxford Nick Bostrom. La idea de Bostrom plantea básicamente que si en el futuro, según suponen muchos científicos y futuristas, es posible que existan grandes cantidades de poder computacional, quizá las generaciones futuras realicen simulaciones detalladas de sus ancestros en sus supercomputadoras. Simulaciones realizadas con dichos recursos permitirían personas simuladas conscientes, que serían suficientemente nítidas y contarían con conocimientos avanzados del funcionamiento de la mente como para simularla. El poder computacional de estas generaciones futuras les permitiría realizar miles y miles de simulaciones, por lo cual se podría suponer que la vasta mayoría de las mentes no pertenecen a la raza original sino a la raza “simulada”.

 

Puedes leer más sobre la fascinante hipótesis de que nuestra realidad es un programa informático aquí