El 22 de marzo de 2023, el Instituto para el Futuro de la Vida (“Institute for the Future of Life”) hizo pública una carta en la que pedía una pausa en el desarrollo de inteligencia artificial (IA) avanzada. Esta carta fue suscrita inicialmente por más de 100 expertos y en la fecha en la que escribo se le han adherido más de 30,000 firmantes.
El eje principal de la carta abierta: una carrera sin control. La cita que reproduzco como sumario de esta columna proviene de los Principios de Asilomar respecto a la IA, coordinados por el propio Instituto para el Futuro de la Vida durante la “Conferencia Relativa al Uso de IA” llevada a cabo en Asilomar, California, en 2017.
La carta pública tiene como eje principal el incumplimiento en el nivel de cuidado requerido en la planificación y administración de la IA. Ello tiene especial importancia en estos meses, cuando varios laboratorios se han visto involucrados en una carrera para crear y poner a disposición del público mentes digitales que nadie – ni siquiera sus creadores – puede entender, predecir o controlar con un nivel adecuado de confianza; una carrera que parece estar fuera de control.
Cuatro preguntas principales a considerar
De esta forma dicha carta nos hace cuatro preguntas de interés general, que resumo como sigue:
- ¿Debemos permitir que las máquinas inunden nuestros canales de información con propaganda y falsedades?
- ¿Debemos automatizar todos los trabajos, aún aquellos que son fuente de satisfacciones para quienes los realizan?
- ¿Realmente debemos desarrollar mentes no-humanas que podrían eventualmente sobrepasarnos en número e inteligencia, así como también hacernos obsoletos y por tanto reemplazarnos?
- ¿Debemos poner en riesgo el control de nuestra civilización?
Te puede interesar: Estos son los PLANES de una inteligencia artificial para DESTRUIR a la humanidad
Ha llegado el momento de repensar el desarrollo de IA
El Instituto para el Futuro de la Vida insiste en que las decisiones derivadas de tales preguntas no deben dejarse en manos de líderes tecnológicos que no han sido electos popularmente, así como en que los sistemas más poderosos de IA deben ser desarrollados tan pronto el público pueda sentirse cómodo en torno a sus impactos positivos y a la posibilidad de que los riesgos implícitos en ellos están siendo adecuadamente manejados.
Y sustenta esta insistencia en la reciente aseveración hecha por los creadores de Chat GPT, quienes señalaron que “en un momento dado, podría ser importante obtener una valoración independiente antes de comenzar a entrenar futuros sistemas de IA, así como también llegar a un acuerdo que limite el ritmo de crecimiento del poder computacional utilizado para crear nuevos modelos de IA”.
El Instituto para el Futuro de la Vida es de la opinión que ese momento es ahora y por tanto sugiere una pausa de 6 meses en el desarrollo de modelos de IA más poderosos que Chat GPT4, de tal forma de que tengamos un “verano libre de IA”. ¿La carta refleja la postura de Elon Musk?
Muchas redes sociales y medios noticiosos han publicitado a la carta que refiero como la opinión de Elon Musk. Es un hecho que el señor es un firmante, que es también asesor del Instituto para el Futuro de la Vida y que ha donado al mismo US$7 “billions”, pero, hasta donde yo sé, no ha expresado una postura personal en torno a dicha carta.
Lo que sí ha sido reportado es que Elon Musk está considerando invertir en un modelo de IA rival de Chat GPT, al cual considera demasiado “políticamente correcto” y con demasiadas restricciones en torno al lenguaje que utiliza; no obstante, el señor ha expresado en diversas ocasiones que la IA representa una amenaza existencial para la vida humana.
Precio de Bitcoin de hoy
Puede ver el precio de hoy de Bitcoin aquí, así como también el precio de hoy de Ethereum y de las principales cryptomonedas. No es ajeno al tema que Bill Gates, fundador de Microsoft, empresa que ha invertido más de US$10 “billions” en IA, se oponga a la carta que hemos analizado. Puede leer la opinión de Gates al respecto en esta liga.
Por: Emilio Carrillo, abogado especializado en temas de financiamiento, tecnología y M&A. Twitter: @ecarrillop; página web: www.bcarrillog.com. Las opiniones expresadas son personales del autor y no constituyen recomendaciones de inversión; las inversiones en tecnologías novedosas son de muy alto riesgo y cabe la posibilidad de que todos los recursos destinados a ellas podrían perderse.