Noticias

May 03, 2023

Temple Grandin: AI y ChatGPT son geniales, pero aún necesitamos expertos.

Me di cuenta por primera vez de la IA en 1968, cuando vi una película que me afectó.

Me di cuenta por primera vez de la IA en 1968, cuando vi una película que me afectó profundamente, 2001: Una odisea del espacio, del director Stanley Kubrick. Yo tenía 21 años. Me encantaban las películas de ciencia ficción, pero esta tenía un significado especial.

Como persona con autismo, soy más racional y me baso en los hechos que en las emociones y los sentimientos, y mi forma de hablar ha sido descrita como monótona o sin modulación. En la escuela secundaria, algunos de los niños me llamaban "robot" y "grabadora". Esa es parte de la razón por la que me relacioné con HAL, la computadora consciente que, con su voz firme e hiperlógica, ayuda a los astronautas con su misión (hasta que él deja de hacerlo). Pero no le presté tanta atención a la IA hasta 1997, cuando la computadora IBM Deep Blue venció al campeón mundial de ajedrez Garry Kasparov. Eso fue un cambio de juego. Luego, en 2003, me quedé impresionado cuando dos rovers de Marte fueron enviados a pasar sus días navegando por la superficie del planeta por su cuenta, sin controles humanos.

Desde entonces, la IA se ha abierto camino en nuestra vida cotidiana, impulsando a Siri, los automóviles autónomos, los anuncios emergentes en las redes sociales, los algoritmos para inversiones personales y mucho más. Más recientemente, la empresa de tecnología OpenAI presentó ChatGPT, que brinda acceso gratuito a esta extraordinaria tecnología. ChatGPT ya ha superado el examen de la barra.

Quería saber qué experiencia podría reunir ChatGPT en mi línea de trabajo. Le pedí que escribiera un breve párrafo sobre los principios de comportamiento del manejo del ganado. Hizo un trabajo preciso al resumir uno de mis artículos, demostrando que los análisis matemáticos son tan buenos como los datos que se incluyen en ellos. Luego, usando una redacción que normalmente no uso, para que no pudiera simplemente buscar mi propio trabajo, le pedí que escribiera un breve párrafo sobre buenos métodos de manejo del ganado. Escribió un párrafo preciso y conciso sobre los principios de comportamiento involucrados. Para ambos párrafos, proporcionó referencias reales y pertinentes. Sin embargo, en un caso incluía un diagrama antiguo de un diseño realmente malo de una instalación, un diseño que un recién llegado a la industria no sabría que tenía fallas graves. Para cualquier campo que use IA, aún necesitaremos expertos.

Hasta ahora, la mayor parte de la preocupación sobre la IA se ha centrado en si las máquinas quitarán los trabajos de las personas, si la IA hará que la raza humana sea redundante. Creo que esta preocupación está fuera de lugar. Toda revolución tecnológica elimina unos puestos de trabajo y crea otros. Los peligros reales, creo, están en otra parte.

Debido a que no solo soy autista sino también un pensador muy visual, el significado me llega primero en imágenes. Mi mente es como un simulador que ejecuta el equivalente a videos, mostrando cómo suceden las cosas, especialmente cómo pueden salir mal. Es la antítesis del razonamiento altamente abstracto que condujo a los avances radicales en IA. Pero son los pensadores visuales como yo los que están especialmente equipados para asegurarse de que este progreso no tenga un costo demasiado alto.

Para la mayoría de las personas, la IA es una abstracción, algo parecido a la magia. Eso es peligroso. Haríamos mejor en pensar en ello como lo hacemos con la infraestructura física, como carreteras o plantas de procesamiento, con sus vulnerabilidades y consecuencias en el mundo real. La IA ayuda a nuestro mundo a funcionar, pero cualquier utilidad grande y poderosa puede fallar. Durante mis 50 años trabajando en la industria, he visto de primera mano las reacciones en cadena que desencadenan las fallas humanas y la vulnerabilidad de nuestras infraestructuras esenciales, como los sistemas de agua y energía eléctrica. Estos sistemas ahora están bajo una mayor amenaza si, por ejemplo, los piratas informáticos toman el control de las computadoras que controlan el equipo, un peligro cada vez más real ahora que los programas de IA pueden escribir código de computadora. La mejor manera de proteger nuestras redes de agua y electricidad es usar controles electromecánicos anticuados que apagarán los equipos vulnerables si se calientan demasiado, giran demasiado rápido o acumulan una presión excesiva.

brezo tal murphy

He visto el futuro que tiene aterrorizados a los actores de Hollywood

Leer más

Me he divertido jugando con ChatGPT. Además de preguntarle sobre mi campo, busqué sus pensamientos sobre las cebras voladoras moradas. (Determinó que esas criaturas son ficticias y se alimentan de nubes y arcoíris). Pero también comparto la alarma expresada por Sam Altman, jefe del creador de ChatGPT, OpenAI, cuando recientemente le dijo al Senado: "Si esta tecnología falla, puede ir bastante mal". Mostrándoles a los legisladores cómo ChatGPT podría inventar un discurso de senador completamente convincente, Altman les dijo que se debe bloquear la IA para que no se autorreplica o escape a la naturaleza. Un programa de IA que hizo un clon de sí mismo podría abrirse camino en un centro de datos, causando un daño inimaginable si los operadores humanos no están lo suficientemente alertas para interceder. Si vamos a beneficiarnos de la IA, especialmente ahora que las herramientas para usarla de maneras únicas están ampliamente disponibles, no solo debemos protegerla como infraestructura crucial, sino que también debemos capacitar a los ciudadanos comunes en la autodefensa básica de la IA.

Cualquier persona en un área que requiera confiar en hechos científicos debe saber cómo buscar en bases de datos científicas para verificar las afirmaciones por sí mismo. Para temas no científicos pero controvertidos, las personas deben aprender a verificar las afirmaciones con múltiples fuentes de información creíbles. Se encuentra disponible un buen software para detectar fotos falsas, que puede amplificar drásticamente las noticias falsas; tenemos que educar a la gente sobre cómo usarlo. Y las personas con la habilidad de resolver problemas visualmente, que pueden simular consecuencias imprevistas en el ojo de su mente y visualizar soluciones en tiempo real, deben ser bien utilizadas. El peligro no es una abstracción. Necesitamos gente que viva donde yo vivo: en el mundo de las cosas prácticas. Ya se trate de bombas de agua o redes eléctricas en el mundo exterior o problemas básicos de plomería y electricidad en nuestros hogares, la gente necesita saber cómo arreglar las cosas. Me preocupa que algunos niños ahora puedan codificar en la escuela secundaria, pero nunca han tomado un martillo o enhebrado una aguja. Si se convierten en formuladores de políticas, será muy difícil para ellos hacer políticas efectivas sobre cosas como la infraestructura que depende del conocimiento y las habilidades prácticas.

¿Podemos aprender todo lo que necesitamos para protegernos más rápido que el ritmo de los avances de la IA? Las consecuencias de la tecnología son asombrosas. Los investigadores están desarrollando métodos para utilizar la IA para comprender y manipular los procesos de biología molecular. ¿Qué pasaría si alguien creara un nuevo virus peligroso? El máximo peligro que podría causar la IA, según informan sobre los comentarios de Altman, es "manipular a los humanos para que cedan el control". ¿Qué pasa si engañó a alguien para que lanzara múltiples misiles con ojivas atómicas falsificando informes de radar de armas entrantes? ¿Tendremos un software capaz de detectar la manipulación, o tecnología satelital capaz de detectar el calor que probaría o desmentiría los informes de radar? ¿Tendremos personas capacitadas para usar esta tecnología y la red de comunicaciones necesaria para asegurarnos de que nadie pierda un paso?

Estas preguntas son profundamente complejas, pero al considerar soluciones concretas, tenemos más control de lo que pensamos. Tal vez tengamos que volver a la antigua línea fija de "teléfono rojo" que solía conectar a los presidentes de las potencias nucleares. Un teléfono rojo enrutado a través de un equipo electromecánico no computarizado. Al ver 2001: Una odisea del espacio, lloré cuando David tuvo que apagar HAL después de que había matado a los otros astronautas. HAL tenía un interruptor de apagado. También debe hacerlo la IA

Future Tense es una asociación de Slate, New America y la Universidad Estatal de Arizona que examina las tecnologías emergentes, las políticas públicas y la sociedad.