Miedo en Silicon Valley

Algo está pasando en las alturas de los cenáculos tecnológicos. En Silicon Valley hay reuniones secretas, peleas, autocríticas y sonoras deserciones. Los genios están mortificados y exhiben temores y remordimientos tardíos por el avance de la Inteligencia artificial cuyo control parecen estar perdiendo.

Después de una larga charla con un entusiasta empresario peruano que usa la IA para proyectos fascinantes en educación, salud y seguridad en provincias y en Lima nos encontramos con el contraste de la información de la prensa internacional de alta credibilidad, la que sigue estos avances con precisión y narra los logros y los problemas como el Times, El Post o El país.

La revolución tecnológica es una realidad y el mundo la vive fascinado, pero también poco consciente de sus riesgos. En la era de los chatbots y después del lanzamiento del chatGPT, a fines del 2022, la competencia es feroz y las advertencias de cuidado y de cautela llegan por todos lados. La más grave fue una carta firmada hace unas semanas por mil expertos en alta tecnología pidiendo una pausa de seis meses en esta carrera que puede convertirse en perversa. Hoy dicha carta cuenta con 27,000 adherentes.

Muy preocupante que Geoffrey Hinton, considerado el padrino de la IA, haya dejado Google advirtiendo el peligro que se avecina con chatbots como chatGPT. Hinton, pionero de la inteligencia artificial, sabe lo que dice. En el 2012 con dos de sus estudiantes, creó la tecnología que es la base intelectual de la que nos impacta en estos días. Con otra perspectiva crítica la locura de crear productos basados en inteligencia artificial generativa, la que impulsa los chatbots. Renunció a Google, después de más de una década, siendo uno de los más respetados expertos, pasó de confiable precursor a temer que la IA esté en su punto de inflexión más importante en décadas. Lo angustia la IA generativa que puede ser usada para la desinformación y para la pérdida de puestos de trabajo. Y con más alcance podría ser un gran riesgo de control del pensamiento.

La tecnología sigue siendo una herramienta. No es ni mala ni buena en sí misma. Para orientarla es indispensable unir el enfoque ético al regulador, que no es fácil en un mundo que ha dejado crecer el poder de la tecnología con máquinas cuya inteligencia modelada sobre la humana podría superarla. El problema está en la desregulación. Todo poder debe tener límites y el tecnológico no los tiene, solo la imaginación y la responsabilidad de pocos magnates podrían impedir que la IA avance sin control y se imponga sobre las decisiones humanas. Por tanto les toca vigilar la tecnología, con el cuidado suficiente para no lanzar algo que pudiera causar daño. 

Pero sin intervención pública de por medio nada garantiza nada cuando los gigantes tecnológicos parecen atrapados en una competencia que podría ser imposible de detener. Lo dijo Hinton antes de despedirse de Google. Y estos cuestionamientos de fondo solo lo pueden hacer los mismos creadores que conocen la potencialidad y los riesgos de su producto. Y lo dramático aparece cuando vemos que nadie podría responder a la crucial pregunta ¿hacia dónde vamos?