DRA. MARÍA ELENA ÁVAREZ-BUYLLA, DIRECTORA DEL CONAHCYT:
"Mi peor miedo es que esta tecnología salga mal. Y si sale mal, puede salir muy mal": am Altman, experto en IA
Mientras la Nueva Escuela Mexicana pretende concentrarse en la comunidad en vez del mundo y está por desaparecer las Matemáticas como materia unitaria dentro del programa escolar, en el mundo se discute el presente y el futuro inmediato de la inteligencia artificial (IA).
Para beneficio de los lectores que nos acompañan, permítame dar una definición muy sencilla: La IA es la capacidad de las máquinas para aprender a tomar decisiones basadas en datos y análisis.
Estamos acostumbrados a trabajar con máquinas que programamos, pero no con una que “aprende” y “toma decisiones”, pues esas funciones las consideramos exclusivas de los humanos. Ya no; la IA está llevando a la humanidad por otros caminos, tan deslumbrantes como tenebrosos.
El pasado 30 de mayo, los más grandes expertos y empresarios vinculados a la IA, entre ellos Elon Musk, emitieron una carta abierta al mundo: “Mitigar el riesgo de extinción (para la humanidad a partir) de la IA debe ser una prioridad mundial junto con otros riesgos a escala social, (equiparables a) las pandemias y la guerra nuclear” (The Washington Post, 30/5/2023).
Los firmantes son personas ubicadas en la cúspide de la IA, como Geoffrey Hinton, quien renunció a la vicepresidencia de Google para dedicarse a este espinoso tema que mucho le preocupa.
Por otra parte, desarrolladores de IA acudieron al Congreso de los EUA para explicar dónde está parado el mundo en esta asombrosa tecnología; ahí pidieron dos cosas: una urgente regulación de la IA y la creación de un organismo multinacional, como la Comisión de Energía Nuclear, que vigile quién hace qué avances y hasta dónde llegan (The New York Times, 31/5/2023).
Nunca habíamos escuchado que creadores y empresarios pidieran ser regulados, ni tampoco que alertaran sobre los riesgos de sus desarrollos. Tecnologías que hace cinco años no eran posibles, hoy lo son porque el progreso en IA es exponencial, en un período de tres años.
¿Por qué la preocupación?
Hay varias, pero me referiré a cuatro, por razones de espacio. Primero que nada, está la pérdida de puestos de empleo, a partir de que las máquinas pueden compartir el TOTAL de su información con otras máquinas, algo que los humanos no podemos hacer.
Eso les permite aprender más rápido y, en consecuencia, sustituir el trabajo humano; actualmente tecnologías como el ChatGPT-4 ya pueden traducir, redactar textos, realizar investigaciones o fungir como asistentes personales. La expectativa es que muy pronto sustituyan a, por ejemplo, abogados y contadores.
Los investigadores de Open IA calculan que 80 por ciento de la fuerza laboral en EUA se verá afectada, al punto que muy pronto 10 por ciento de las plazas podrían ser ocupadas por máquinas con IA. En trabajos más simples, el impacto puede ser hasta del 50 por ciento. Y esto ocurriría en un plazo de cinco a 10 años…
Los científicos optimistas consideran que la IA liberaría a las personas de tareas aburridas dentro de su trabajo y podrían dedicar más tiempo al ocio y la creatividad; que la genética y la medicina casi nos darán la vida eterna; que la producción de bienes sería ilimitada… Me suena a Disneylandia, porque para que eso sea posible, los salarios tendrían que ser más altos, las personas más preparadas, etc., etc., con lo cual me temo que la brecha entre ricos y pobres –personas y países- se ampliaría más. Para mí, esta sería una segunda amenaza.
La tercera gran amenaza es la generación de noticias falsas o alarmistas a través de la IA generativa; de hecho y hasta ahora, los expertos no saben cómo controlar que todo el “almacén” de datos no se convierta en información sesgada o tóxica.
Hay un fenómeno dentro de la IA, denominado “alucinación” y le pongo un ejemplo: supongamos que pedimos a una de estas máquinas que nos explique por qué Hitler tenía razón en aniquilar a los judíos. Con base en los datos que posee (textos y libros digitalizados, portales enciclopédicos, estudios, algoritmos, etc.) puede desarrrollar una tesis pro-nazi irrefutable. ¿Qué pasará con la gente que la dé por buena y, sobre todo, veraz?
Lo anterior nos lleva a la cuarta amenaza: la manipulación de la información, los hechos y la verdad es una herramienta espléndida para las dictaduras.
La situación actual es tan delicada, que los expertos y empresas firmantes de la carta abierta, quienes han invertido miles y miles de millones de dólares en IA, hicieron un llamado a poner en pausa su desarrollo por lo menos durante seis meses.
No quieren seguir adelante hasta que ellos, gobiernos y sociedad en su conjunto puedan responder la pregunta planteada por Hinton: “¿Podemos asegurarnos de tener metas que nos beneficien a nosotros?” (El País, 6/5/2023).
Ahora cuéntenos, doctora Ávarez-Buylla, ¿qué están haciendo en CONAHCYT para que México no se quede atrás?
Por una vez, dejemos de vernos el ombligo.
Leopoldo Mendívil
Colaboró: Upa Ruiz This email address is being protected from spambots. You need JavaScript enabled to view it.
Correo: This email address is being protected from spambots. You need JavaScript enabled to view it.
Facebook: Leopoldo Mendívil
Twitter: @Lmendivil2015