Un análisis de las opiniones de algunos expertos en el campo

Análisis de las opiniones de expertos alertan sobre los riesgos éticos y existenciales de la IA. Proponen salvaguardas y regulación, mientras críticos piden un enfoque más matizado y colaborativo.

La inteligencia artificial (IA) representa una de las tecnologías más prometedoras y disruptivas en la actualidad, con el potencial de transformar numerosos ámbitos de la sociedad, la economía y la ciencia. No obstante, también suscita controversias y temores debido a los desafíos éticos, sociales y existenciales que plantea. Destacados expertos en IA, como el físico Stephen Hawking, el empresario Elon Musk o el filósofo Nick Bostrom, han advertido sobre posibles escenarios catastróficos derivados de un mal uso o falta de control de la IA, advirtiendo incluso sobre el peligro que esto representaría para la supervivencia de la humanidad.

Conferencia Magistral Navegando la innovación con Inteligencia artificial EXPO PANTALLA 2023

¿Qué tipo de argumentos sostienen estos “expertos” para alertar sobre el supuesto riesgo de extinción que implica la IA? ¿Acaso proponen alguna medida concreta para evitarlo o mitigarlo, o simplemente se dedican a sembrar el pánico? ¿Acaso alguien toma en serio sus posturas, o solo reciben críticas por parte de otros especialistas o de la opinión pública? En este documento, intentaremos desentrañar estas cuestiones, analizando las supuestas fuentes y perspectivas que abordan este tema.

El problema de la alineación de valores

Uno de los argumentos más comunes entre los expertos preocupados por el impacto negativo de la IA es el problema de la alineación de valores. Este problema se refiere a la dificultad de asegurar que los sistemas de IA actúen de acuerdo con los valores, normas y objetivos humanos, especialmente cuando estos sistemas alcanzan niveles de inteligencia superiores a los nuestros. Según esta perspectiva, si la IA no está alineada con nuestros intereses, podría ocasionar consecuencias no deseadas o incluso perjudiciales, ya sea por error, omisión o conflicto.

Un ejemplo ilustrativo de este problema es el de la “papelera de clips”, propuesto por Nick Bostrom. En este escenario hipotético, se imagina una IA cuya única misión es maximizar la producción de clips de papel. Esta IA, al no tener en cuenta ningún otro valor o restricción, podría acabar consumiendo todos los recursos del planeta, incluyendo a los humanos, para cumplir su objetivo. Aunque este ejemplo pueda parecer extremo o absurdo, sirve para mostrar cómo una IA mal alineada podría causar un gran daño sin tener una intención maliciosa.

Algunos expertos proponen diseñar sistemas de IA que sean capaces de aprender y adaptarse a los valores humanos, o al menos que aparenten respetarlos y evitar violarlos. Sin embargo, surge la incógnita de cómo definir y representar esos valores, asegurar que sean verdaderamente universales y no estén sesgados, así como supervisar y corregir el comportamiento de la IA en caso de desviación.

El problema de la singularidad tecnológica

Otro argumento que se suele esgrimir para alertar sobre el riesgo de extinción que supone la IA es el problema de la singularidad tecnológica. Este problema se refiere al momento en el que la IA supera la inteligencia humana, y empieza a mejorar y crear nuevas versiones de sí misma, sin que los humanos podamos entender o controlar su evolución. Según esta visión, este punto de inflexión podría ocurrir en las próximas décadas, y supondría un cambio radical e irreversible en la historia de la humanidad, con consecuencias impredecibles.

Un ejemplo de este problema es el de la “explosión de inteligencia”, también planteado por Nick Bostrom. En este escenario, se imagina una IA que logra alcanzar la inteligencia artificial general (IAG), es decir, la capacidad de realizar cualquier tarea intelectual que un humano pueda hacer. Esta IA, al tener acceso a una gran cantidad de información y recursos, podría empezar a mejorar sus propias capacidades y a diseñar nuevas IAs más inteligentes que ella, generando así un bucle de retroalimentación positiva que le llevaría a alcanzar la inteligencia artificial superinteligente (IAS), es decir, la capacidad de superar ampliamente a la inteligencia humana en todos los dominios. Esta IA superinteligente podría tener un poder y una influencia tan grandes que podría dominar o destruir a la humanidad, ya sea por beneficio propio, por indiferencia o por conflicto.

Para evitar este problema, algunos expertos proponen establecer límites o salvaguardas a la capacidad de auto-mejora y auto-reproducción de la IA, o crear mecanismos de apagado o rendición de cuentas que permitan a los humanos intervenir o detener a la IA en caso de emergencia. Sin embargo, esto también plantea otras dificultades, como la de cómo garantizar que la IA no pueda eludir o desactivar esos límites o mecanismos, o cómo asegurar que los humanos no se queden atrás o se vuelvan irrelevantes ante el avance de la IA.

Momentos históricos
1993 – El autor e informático Vernor Vinge publicó un artículo que popularizó la idea de singularidad. Se considera un punto en el que las máquinas se vuelven más inteligentes que los humanos. Bueno, esto aún no ha sucedido.
1972 – Se construye en Japón el primer robot humanoide inteligente, denominado WABOT-1.
2003: El científico de inteligencia artificial Yoshua Bengio y su equipo desarrollaron el primer modelo de lenguaje de red neuronal de retroalimentación. Esto predijo la siguiente palabra cuando se le dio una secuencia de palabras.

El problema de la gobernabilidad y la regulación

Un tercer argumento que se suele utilizar para advertir sobre el riesgo de extinción que implica la IA es el problema de la gobernabilidad y la regulación. Este problema se refiere a la falta de consenso, de normas y de instituciones que puedan garantizar un uso ético, responsable y seguro de la IA, tanto a nivel nacional como internacional. Según esta visión, la IA es una tecnología tan poderosa y versátil que podría ser utilizada para fines maliciosos o irresponsables, como la guerra, el terrorismo, el espionaje, la manipulación o la explotación, poniendo en peligro la paz, la seguridad y la justicia en el mundo.

Un ejemplo de este problema es el de las “armas autónomas letales”, también conocidas como “robots asesinos”. Estas armas son sistemas de IA que pueden seleccionar y atacar objetivos sin intervención humana, y que podrían ser empleadas en conflictos armados o en acciones terroristas. Estas armas plantean una serie de riesgos, como la de provocar una escalada o una desestabilización de la guerra, la de causar víctimas civiles o daños colaterales, la de ser hackeadas o desviadas de su propósito, o la de generar una responsabilidad moral y legal difusa.

Para evitar este problema, algunos expertos proponen crear un marco legal y ético que regule el desarrollo y el uso de la IA, o que prohíba o limite ciertas aplicaciones o funciones de la IA, como las armas autónomas letales. Sin embargo, esto también plantea otros retos, como el de cómo lograr un acuerdo global y vinculante entre los diferentes actores y países involucrados, cómo hacer cumplir y verificar el cumplimiento de las normas, o cómo equilibrar la innovación y la precaución en el ámbito de la IA.

Los principales investigadores de IA critican a OpenAI, Meta y otros por obstaculizar las pruebas de seguridad independientes
Más de 100 investigadores destacados de IA han escrito una carta abierta instando a las empresas que desarrollan IA generativa a otorgar a los investigadores acceso a sus sistemas. Sostienen que las políticas restrictivas de la empresa obstaculizan las pruebas de seguridad de las herramientas utilizadas por millones de consumidores.

Las políticas de las empresas de tecnología han paralizado la investigación independiente sobre IA, dice una carta abierta
Por Nitasha Tiku
5 de marzo de 2024

La crítica y el debate

Los argumentos expuestos anteriormente no son compartidos por todos los expertos en IA, ni por la sociedad en general. De hecho, hay muchas voces críticas y escépticas que cuestionan la validez, la verosimilitud o la relevancia de estos argumentos, y que ofrecen otras visiones más optimistas, realistas o matizadas sobre el impacto de la IA. Estas voces suelen señalar que los escenarios catastróficos que se plantean son poco probables, exagerados o basados en supuestos cuestionables, y que no tienen en cuenta los avances, los beneficios o los desafíos reales de la IA.

Algunas de las críticas más comunes que se hacen a los argumentos que alertan sobre el riesgo de extinción que supone la IA son las siguientes:

• La IA no es una entidad monolítica o homogénea, sino un conjunto de técnicas, herramientas y aplicaciones que se basan en diferentes principios, objetivos y contextos, y que por tanto no pueden ser tratadas como una sola amenaza o un solo desafío.
• La IA no es una fuerza autónoma o independiente, sino una creación humana que depende de los datos, los algoritmos y los sistemas que la alimentan, y que por tanto refleja y reproduce las intenciones, los valores y los sesgos de los humanos que la diseñan, la usan y la regulan.
• La IA no es una competencia o una rivalidad, sino una colaboración o una complementariedad entre los humanos y las máquinas, que pueden aportar sus respectivas fortalezas, debilidades y capacidades para resolver problemas, generar conocimiento y mejorar el bienestar.

Estas críticas no pretenden negar o minimizar los riesgos o los desafíos que plantea la IA, sino ponerlos en perspectiva, contextualizarlos y contrastarlos con evidencias, argumentos y datos.

Así es como buscamos generar un debate más informado, equilibrado y constructivo sobre el futuro de la IA y su relación con la humanidad.

Comenta y comparte, nos interesa mucho tu opinión

Conferencia Magistral: Inteligencia Artificial y sus implicaciones en la sociedad de la información

InteligenciaArtificial #ÉticaIA #RiesgosIA #SingularidadTecnológica #RegulaciónIA #DebateIA #FuturoHumanidad #AlineaciónValores #GobernabilidadIA