独家优惠奖金 100% 高达 1 BTC + 180 免费旋转

Problemas de la IA

La IA nos ha ayudado mucho, pero ¿Cuál es la otra cara?

Hay muchos textos que describen los beneficios de la inteligencia artificial, y las ciencias de datos en general. Pero me parece que es importante tener en mente el panorama completo que rodea a esta disciplina.

Uno de los usos más usuales hoy en día de la IA es la recomendación de contenidos en las redes sociales, esto nos permite tener un flujo constante de información interesante para nosotros, que de otra forma no veríamos (o tendríamos que buscarlo más arduamente). Esto no es exclusivo de las redes sociales, otros ámbitos serian:

En los últimos años se han desarrollado he implementado una gran variedad de algoritmos en la medicina que ayudan a la detección de muchos problemas, y han demostrado tener una mucha mayor precisión que un humano con experiencia. Algunos ejemplos son:

Otros de los usos más usuales de la IA en la actualidad está en el ámbito financiero, normalmente usado por bancos, seguros, o incluso inversionistas. Unos ejemplos pueden ser:

Otra de las aplicaciones es el poder hacer tareas repetitivas, las cuales son fácilmente realizadas por una AI:

Ha habido una tendencia de unir las ciencias sociales con las ciencias de datos para así tener una mejor visión de realidad de muchos pueblos, provincias y países. Por nombrar unos casos de uso:

Se han hecho varios estudios donde se aplica la IA para monitorear el rendimiento de las cosechas y los resultados obtenidos son prometedores, con un crecimiento de hasta un 30% en las cosechas. Sin embargo esto no se hace aún a gran escala y la infraestructura necesaria es costosa (aunque rentable).

Hace relativamente poco hemos tenido una explosión en la campo de la visión por computadora (con las CNN), a su vez esto ocasiono una revolución en los modelos generativos (por ejemplo GAN), todo eso nos ha traído hasta aquí, pudiendo crear imágenes hermosamente detalladas con “ E-Dalle”.

Al igual que E-Dalle crea imagines sean creado algoritmos que intentan ser su versión en video “CogVideo”.

Es de público conocimiento que los algoritmos de recomendación tienden a radicalizar a las personas por dos motivos.

El primero motivo es el llamado “Filtro Burbuja” (o The Filter Bubble) este efecto es básicamente que el algoritmo nos muestra solo que nos gusta, aprovechándose de nuestro sesgo de confirmación para retenernos más tiempo en el uso de las redes sociales/servicio de streaming/e-commerce/etc.

Además varias investigaciones recientes señalan que las interacciones que producen emociones como odio, ira, o impotencia tienden a generar más interacciones entre los usuarios. Esto es un dilema actual que sufren las redes sociales sobre todo, porque si bien por un lado intentar censurar este contenido, por el otro la misma naturaleza del algoritmo hace que se promuevan, lo da por resultado un “enojar pero no tanto”.

Ya han habido varios casos de manipulación de la opinión pública a través de las redes sociales. Para promover tal o cual idea/candidato, sin ir más lejos está el sonado caso de “cambridge analytica”, el cual para ser justo tuvo un poco de exageración y no fue el primero de su tipo (pero si el más famoso).

Estas redes sociales dependen a su vez de inteligencias artificiales que puedan: clasificar/segmentar al público y recomendarle contenido. Creando así una burbuja de información que conjunto a una campaña publicitaria puede alterar la opinión pública sobre algo o alguien.

No es secreto para nadie que la creciente automatización, si bien ha producido un drástico aumento en la productividad, también ha desplazado varios trabajos de antaño que serían realizados por muchas más personas de las requeridas para esa misma labor hoy día.

Lo peor es que esta tendencia parece acelerarse aún más con cada día que pasa, si bien podemos decir que la tecnología (específicamente la IA) crea puestos de trabajo, estos no son proporcionales a los que suplanta, además los nuevos trabajos que crea requieren un nivel académico muy superior a los que desplaza.

¿Las AI pueden ser racistas, homófobas, xenófobas? La respuesta corta es que SI. Esto es simple: datos sesgados, producen resultados segados. Si tenemos un desequilibrio de grupos en nuestros datos o incluimos datos personales que tengan una alta correlación con una variable (como el color de piel) es altamente probable que nuestra AI adquiera eso sesgos.

Y es que no hay que olvidar que las IA aprenden en gran mediada de nuestro mundo (y cuantos sesgo no tiene nuestro mundo actual).

La prueba de Turing o test de Turing es un examen de la capacidad de una máquina para exhibir un comportamiento inteligente similar al de un ser humano o indistinguible de éste.

Si bien ya han habido algunos experimentos en los cuales la maquina es capaz de pasar el test nada de eso va a ser similar a lo que se vine, no será sorpresa que cada vez más gente confunda la “conciencia” con un simple “loro estocásticos”, las imágenes y audios falsos con los reales. Eso sin contar la posibilidad de tener relaciones parasociales con simples algoritmos.

Relaciona con el punto anterior debemos hablar de los famosos “deepfakes” una nueva tecnología que permite poner la cara de una persona y otra (en imágenes y videos).

Solo queda imaginarse los posibles usos maliciosos que se le puede dar a esta tecnología. Suplantación de identidad, Escándalos públicos, Noticias falsa con la cara y voz del mismo presidente, etc…

Solo imagínense una tecnología que permita anticiparse a protestas, predecir quienes se le unirán, donde y cuando pasaran, esto suena como el sueño de los dictadores. Bueno les presento a la IA.

Con algoritmos ya ampliamente conocidos como la regresión lineal, para ver la probabilidad de que tal o cual cosa pase, o las CNN, para procesar imágenes de cámaras de manera automatizadas. Bueno si esto te suena es porque existe con el “Sistema de crédito social chino”.

Aunque la idea de un “Terminator” puede sonar hasta graciosa, no hay que confundir las cosas. Si bien estamos muy lejos de crear algo parecido al T-800 no necesitamos este para crear armas igual de mortales pero mucho más simples, como por ejemplo mejores localizadores, misiles precisos, drones cada vez más complejos, etc...

Piensa que varios de los principales inversionistas usan algoritmos para automatizar gran parte del trabajo, ¿el problema?, ¿Qué pasará si diversos algoritmos presentan un punto central de fallo?

Bueno la respuesta es simple: una crisis económica involuntaria. Aún los algoritmos no están tan ampliamente utilizados como para causar una crisis mundial, sin embargo con la tendencia actual es solo cuestión de tiempo para que alcancen tal influencia. Hoy día tenemos varios ejemplos a una escala más pequeña de esto, crisis que se acusan y resuelven en segundos por pequeñas fallas en uno o varios sistemas.

Como podemos observar aquí hay muchos beneficios de la IA en nuestro mundo, sin embargo tenemos que enfrentar grandes desafíos para intentar conducir estas tecnologías hacia el mejor rumbo posible.

Do you identify as Latinx and are working in artificial intelligence or know someone who is Latinx and is working in artificial intelligence?

Don’t forget to hit the 👏 below to help support our community — it means a lot! Thank you :)

Add a comment

What is your view?

Send

Related posts:

My Sister Saved Me

As my life was crumbling around me, my oldest sister stepped in and saved me from certain lifelong insanity! I was hesitant, scared, and worried about judgement, but I was also desperate and falling…

Visualizing the Generational Billionaires

While the Russian billionaires have been in the news lately with all the western sanctions hitting them hard, the pandemic has propelled the wealth of the American billionaires to new highs…

Comparing Cloud Platforms for Machine Learning Applications

The cloud landscape is rapidly evolving, and determining which vendors are ideal for a particular workload can lead to plenty of discourse about the direction these services are headed. In this…