Antes de que existieran los hoy populares modelos de lenguaje de IA, los automóviles autónomos o las discusiones de ética y regulación, Issac Asimov ya había imaginado una pregunta que hoy es clave: ¿puede una regla controlar realmente una inteligencia?
Cada vez que un organismo internacional, comité o empresa tecnológica discute cómo regular y sobre todo impedir que un sistema autónomo pueda operar de forma individual o incluso causar daño a las personas, se vuelve a un problema que Asimov planteó en la década de los ’40. En su relato “Mentiroso” (1941), acuño el concepto de “robótica” y en “Círculo vicioso” (1942) formuló las tres leyes de la robótica, principios vigentes en la actualidad en los debates sobre IA, seguridad tecnológica y responsabilidad humana.
Asimov concibió lo anterior para romper el imaginario dominante en la época donde las máquinas se rebelan contra sus creadores; sin embargo, hizo algo más profundo que idear cómo los robots podían ser obedientes al humano, planteó la pregunta en torno a qué reglas deben gobernar una entidad capaz de razonar, decidir o actuar de manera autónoma, sin supervisión humana. En sus relatos, los robots no suelen ser peligrosos porque desobedezcan al humano, sino porque son capaces de interpretar sus instrucciones desde una lógica distinta, lo que hoy con los sistemas de IA permite teorizar en torno a que pasaría si estos deciden que lo mejor para el humano es prohibirle ciertas actividades.
El dilema es hoy una realidad para las empresas que desarrollan IA como OpenIA, Anthropic, Microsoft, Google y otras, que trabajan en sistemas que permiten alinear esta tecnología mediante filtros de seguridad, políticas de uso y regulación algorítmica, es decir, el equivalente a las leyes propuestas por Asimov, ya no grabadas en un cerebro de robot, sino en el entrenamiento, código y protocolos con que se generan los modelos. De esta forma los marcos regulatorios externos, operan básicamente para el usuario y no necesariamente para una IA.
En la “Última pregunta” (1956), Asimov presenta a Multivac, una supercomputadora capaz de perfeccionarse a sí misma durante miles de años para hacerse superinteligente y contestar cualquier pregunta, situación que podría homologarse a la IA de hoy, cada vez más autónoma, con más herramientas para su automejora y con la capacidad de participar de decisiones humanas.
No se trata de determinar si Asimov acertó o no al futuro, sino a las preguntas y situaciones que planteó: cómo tratar a un robot inteligente que físicamente es indistinguible de un humano, o ¿nosotros podemos actualmente lograr “apagar” la IA?
Los relatos de Asimov anticiparon el conflicto de convivir con inteligencias no humanas. Así llevó el debate a lo ético, político y económico, donde la capacidad de las personas, por muchas reglas que tenga, siempre conservará un margen de interpretación propia, lo que lleva a reflexionar hasta dónde estamos dispuestos a delegarle tareas a la IA, y eso hoy, es una incertidumbre.
|
.jpg)
.jpg)
.jpg)
