Melanie Mitchell: “La IA desaparecerá cuando incorporen robots que experimenten el mundo como niños”

Medios relacionados – Noticias 24 horas

¿Estamos exagerando el potencial de la inteligencia artificial (IA)? ¿Son inteligentes a estas alturas? ¿Pasarás un día en Alcánzar con el ser humano? Estas son algunas de las preguntas que Melanie Mitchell (Los Ángeles, 55) se hace en su libro Inteligencia artificial. Guía para pensadores serios., que Captain Swing lanza este mes. Su respuesta es importante: estamos muy apegados a la creación de superinteligencia, porque algunas empresas han dicho lo contrario. Una de las razones fundamentales es que las máquinas no están tan bien como nosotros. Puedes hacer casi cualquier cosa mejor que nadie, pero entiendes el mundo peor que un niño de un año.

Mitchell ofrece un contexto crucial para calibrar el fenómeno de la IA, una tecnología instalada en el debate público desde que aparecieron herramientas como ChatGPT hace dos años. Políticos, empresarios y académicos han alertado recientemente de los peligros de estos sistemas que han confundido al mundo con los elaborados textos que son capaces de generar y las imágenes y vídeos hiperrealistas que pueden producir.

El Instituto Davis para la Complejidad de Santa Fe y el profesor de la Universidad Estatal de Portland describen en su trabajo cómo funcionan los sistemas de IA más avanzados y cómo entran en conflicto con la razón humana. Conclusión: Aspectos clave como la intuición o el conocimiento del entorno son, de momento, ineludibles para cualquier máquina. Mitchell viaja a PAÍS para realizar una videollamada desde su casa en Santa Fe, Nuevo México.

PEDIDO. ¿De qué es capaz la IA hoy?

RESPUESTA. Dio un gran salto en sus capacidades hace un par de años con el legado de la IA generativa, que incluye aplicaciones como ChatGPT o Dall-E. Pero estos sistemas, aunque pueda parecerlo, no tienen el mismo tipo de comprensión del mundo que nosotros. Por eso, a veces hacía algo extraño o inventaba algo. Debido a la confiabilidad, existen una serie de limitaciones que son difíciles de predecir. Por eso creemos que si estos sistemas pueden ser muy útiles y utilizarlos todo el tiempo, debemos tener cuidado con la confianza que depositamos en ellos. Especialmente si no hay supervisión humana.

PÁGINA ¿Por qué razón?

r. Puede cometer errores graves. Un claro ejemplo son los coches autónomos. Una de las razones por las que hoy no estamos entre nosotros es donde un ser humano rara vez lo hace, como por ejemplo no identificar una piedra o un obstáculo. Otro ejemplo son los sistemas automáticos de reconocimiento facial. Las máquinas son extremadamente buenas para identificar roles en imágenes, pero han demostrado que a las personas les cuesta identificarse con personas o mujeres de piel más oscura. Con ChatGPT, hemos visto innumerables casos de invención de lo que dice.

La profesora Mitchell utiliza el diario de la herramienta de IA, pero reconoce sus limitaciones y siempre comprueba sus resultados.Kate Joyce

PÁGINA ¿El auge de la IA generativa ayuda o perjudica el desarrollo de la disciplina?

r. En cierto modo, esto bomba publicitaria aumenta las expectativas de la gente y esto provoca engaño. Ha tenido éxito muchas veces a lo largo de la larga historia de la IA. En las décadas comprendidas entre 1950 y 1960, decidimos plantear máquinas con inteligencia humana por un corto tiempo. Esto no tuvo éxito. Estaba esperando el invierno de la IA: si quería financiación para la investigación y quebraron el negocio. Ahora estamos en un período de muchas expectativas. La verdad es la pregunta: ¿cuándo realizaremos las predicciones de los optimistas o nos lanzaremos a otra gran empresa? Es difícil de predecir.

PÁGINA Sólo han pasado tres años desde que el futuro es el metaverso. Hoy ya nadie, cuéntanos sobre ello. ¿Crees que se puede hacer algo con la IA?

r. Continuamente se introducen grandes innovaciones tecnológicas: se produce una especie de gran exageración publicitaria, luego no se cumplen las expectativas y se involucra a la gente y, finalmente, la tecnología se vende rápidamente. Este desarrollo fue útil, pero no tan brillante como la gente esperaba. Probablemente esto es lo que sucede con la IA.

PÁGINA Usted sostiene que los sistemas de IA carecen de comprensión semántica o sentimiento común y, por lo tanto, no pueden ser verdaderamente inteligentes. ¿Crees que esto cambiará pronto?

r. Es posible. No hay ninguna razón por la que no podamos desarmar un auto como este. La pregunta es: ¿cómo llegamos allí? ChatGPT ha sido entrenado con todos los libros y textos digitales disponibles, así como con todos los videos e imágenes de Internet. Pero hay cosas que tienes que ver con sentimiento y conocimiento común y que no están codificadas ni en lenguaje ni en datos: sólo si puedes aprenderlas a través de la experiencia. Quizás las máquinas no podrán pensar de una forma más humana mientras experimenten el mundo como lo hemos hecho nosotros. Existe un gran debate en la disciplina de la IA al respecto. Sospecho que el gran salto se producirá cuando la máquina no sólo se haya entrenado pasivamente en el lenguaje, sino que también haya experimentado activamente el mundo como lo hacía un niño.

PÁGINA Cuando estoy en forma de robot.

r. Sí. Una IA colocada en un robot podría tener el mismo tipo de educación o desarrollo que un niño. Es algo que Alan Turing, uno de los padres de la informática, observó en los años cincuenta. Esta idea de la cobra ahora está clara.

PÁGINA Usted describe en el libro cómo funciona la IA y lo poco que tiene que ver con nuestra forma de razonamiento. ¿Quieres importar el proceso si completa tu función?

r. Depende de para qué quieras usar el sistema. El GPS de mi coche puede encontrar una ruta desde Ida y adónde quiero ir. No entiendo el concepto de carretera o tráfico, pero hace un buen trabajo. La pregunta es: ¿realmente queremos que los sistemas interactúen de manera más general con el mundo humano? ¿Cuándo lo entenderé? Se da un caso en el que un vehículo frena automáticamente y recibe una descarga en un momento determinado, y el conductor no sabe de qué se trata. El resultado fue que un anunciante del valle tenía un anuncio que tenía una señal de alto. ¿Podrías evitar errores como este? Sólo cuando entiende el mundo como lo hacemos nosotros.

PÁGINA ¿Dónde crees que se puede llegar a la IA?

r. No veo que haya ninguna razón por la que no podamos desarrollar máquinas con una inteligencia comparable a la de los humanos. Pero ahora va a ser muy difícil conectarnos, no lo estamos buscando. En la década de 1970 pensé que cuando las máquinas pudieran alcanzar el nivel de un gran maestro, tendrían que igualar la inteligencia humana. Resultado: no seas así. Entonces me digo a mí mismo que cuando podamos traducir textos o mantener conversaciones. Rápidamente paso. Toda la historia de la IA ha demostrado que nuestras intuiciones sobre la vida y la inteligencia en el menú son mal entendidas, que en realidad todo es mucho más complejo de lo que pensamos. Y creo que esto seguirá así. Necesitamos aprender mucho más sobre lo que realmente significa ser inteligente.

PÁGINA Entonces tienes que pagar la multa.

r. Uno de los objetivos de la IA es ayudar a comprender qué entendemos por inteligencia. Y cuando llega el momento de implementarlo en máquinas, sólo hay que tener en cuenta que en realidad incluimos muchas cosas que no consideramos.

PÁGINA Algunos pioneros de la IA, como Geoffrey Hinton, creen que esta tecnología puede ser difícil de controlar. ¿Cuál es tu opinión?

r. La IA contiene muchos tipos de pieles. Puede utilizarse para producir información incorrecta, etc. profundo. Son algoritmos tuyos, como el que comentas en el caso del reconocimiento facial. Sugerencias y más y dicen que estos sistemas podrían burlarse y destruirse a sí mismos. Esta afirmación es, por decirlo suavemente, muy improbable y especulativa. Si intentamos desarrollar un sistema superinteligente, necesitamos importar nuestros valores, ya que matar a todos los humanos no es bueno. Centrarse tanto en esta idea tan dramática de los desafíos existenciales que enfrenta la humanidad es simplemente desviar la atención de cosas que son realmente importantes en este momento.

PÁGINA ¿Cree que, como sociedad, estamos adoptando adecuadamente aquellas cosas que nos han atormentado hoy?

r. Sí, incluso si la legislación sigue el ritmo de la innovación. La UE ha dado un primer paso con el Reglamento Europeo sobre IA. Una de las cosas que estamos viendo en EE UU son las peticiones de autores. Todos estos sistemas vienen con grandes cantidades de texto e imágenes. Si no le pagaron por su uso, ¿es esto una infracción de los derechos de autor? La ley no es clara porque se promulgó mucho antes del desarrollo de esta tecnología. Nos gustaría solucionar esto.

PÁGINA ¿Cuál es la aplicación de IA más impresionante que has visto últimamente?

r. Lo que más me entusiasma es la aplicación de estos sistemas a problemas científicos. DeepMind, por ejemplo, trabaja en el uso de IA para predecir la estructura de las proteínas. También se utiliza para el desarrollo de nuevos materiales y empresas. Estamos en una especie de nueva era de la ciencia, podría ser muy importante como la que se inauguró con la liga de informática.

PÁGINA Dice en el libro que quienes calibran los sistemas de aprendizaje profundo, la técnica de inteligencia artificial más avanzada, parecen expertos en términos científicos, porque ajustan los parámetros de las máquinas sin saber exactamente qué hacer.

r. Poco después de escribir el libro se propone hablar de los ingenieros de pedido [las instrucciones que se le da las herramientas de IA generativa]. Su trabajo es asegurarse de que el sistema tenga el mejor rendimiento posible. El resultado es que hay gente que gana mucho dinero haciendo este trabajo. Sí, es pura alquimia, ya no hay ciencia. Sólo si lo tratan para demostrarlo. Algunos funcionan y otros no, y no tenemos idea de por qué.

PÁGINA Resulta irónico el resultado de que estemos hablando de optimizar una de las tecnologías más sofisticadas de la historia de la humanidad que la ha llevado a las estrellas.

r. Estos sistemas son, en cierto sentido, cajas negras. Son sistemas de Software extremadamente complejo que no fue programado explícitamente para hacer cosas, pero lo aprendí, aprendí los datos y nadie puede verificar qué funciona y cómo lo hicieron. Los neurocientíficos entienden cómo funciona el cerebro y llevan a cabo experimentos para tratar el sentimiento que surge. Esto es lo que sucede ahora con la IA generativa.

También te puede interesar – Colaboradores destacados