Geoffrey Hinton, premio Nobel de Física en 2024 y uno de los padres del aprendizaje profundo o deep learning, exigió un mayor esfuerzo científico para comprender los riesgos de los sistemas capaces de superar determinadas habilidades humanas. Su advertencia sobre la inteligencia artificial (IA) forma parte de una tradición de quienes abren una frontera y suelen ser también los primeros en anticipar sobre sus peligros.
Alexander Fleming ofreció un ejemplo en 1945, cuando alertó de que el uso inadecuado de la penicilina podía favorecer la aparición de bacterias resistentes. Tres décadas después, los pioneros del ADN recombinante propusieron medidas de bioseguridad y niveles de contención según el riesgo de cada experimento, partiendo de la premisa de que «la tecnología es demasiado valiosa para abandonarla y muy poderosa para desarrollarla sin garantías». En ambos casos, la cautela surgió de la propia ciencia. El avance continuó acompañado de protocolos y responsabilidad, lo que nos enseña que la precaución científica es parte del progreso.
En tecnologías mucho más cercanas a nuestra vida cotidiana, esta discusión tiene otro antecedente. En 2011, Betsy Sparrow, Jenny Liu y Daniel Wegner publicaron cuatro estudios que dieron lugar al llamado «efecto Google», que se caracteriza por el hecho de que las personas que esperan tener acceso futuro a la información la recuerdan poco, pero sin olvidar como acceder a ella, lo que convierte a Internet en una suerte de memoria externa donde la información se almacena colectivamente fuera de nosotros. Este hallazgo evoca una reflexión atribuida a Albert Einstein, en 1921, cuando al consultarle por un dato que desconocía, explicó que carecía de sentido conservar en la mente información fácilmente disponible en los libros y añadió que el valor de la educación universitaria radicaba menos en aprender muchos datos que en entrenar la mente para pensar. Un siglo después, esta observación adquiere una sorprendente actualidad, ya que la verdadera clave quizá sea decidir qué conviene recordar, qué podemos delegar en nuestras herramientas y qué capacidades intelectuales debemos preservar.
Imaginemos a un estudiante que consulta una ecuación con IA. Si la utiliza para contrastar procedimientos, detectar errores y explorar soluciones, la tecnología le permite ampliar su aprendizaje. Pero, si simplemente copia el resultado, reduce la oportunidad de ejercitar su razonamiento. La diferencia radica menos en la máquina que en la relación cognitivo-emocional establecida con ella.
De esta manera, Hinton llama la atención sobre los riesgos futuros; el «efecto Google» nos recuerda que algunas transformaciones comienzan de manera silenciosa. Una propuesta es que educar para la IA y con la IA exige preguntar de dónde proviene una afirmación, reconstruir procedimientos, comparar fuentes, reconocer la incertidumbre y conservar competencias fundamentales.
Por tanto, el desafío consiste en saber emplear estas herramientas para pensar mejor, jamás para pensar menos. La historia de la ciencia muestra que una advertencia responsable puede preservar aquello que hace valiosa una innovación. La precaución científica, lejos de frenar el progreso, ayuda a darle dirección y sentido.
@betancourt_phd
