La Ética vs la Inteligencia Artificial

  • Miércoles, 04 Marzo 2020

ia-355x250

 

Esto es lo que sucede cuando debatimos sobre ética frente a la "súper inteligente" IA. 

¿Existe un conjunto uniforme de leyes morales?, y si es así, ¿Podemos enseñar esas leyes morales a la inteligencia artificial para evitar que nos perjudiquen? Esta es la pregunta propuesta en un cortometraje original lanzado por The Guardian.

En la película, los creadores de una IA con inteligencia general, llaman a un filósofo especializado en ética para que les ayude a establecer un conjunto de pautas morales para que la IA aprenda y prosiga, demuestra que no es una tarea fácil.

Inteligencia Artificial es uno de los temas principales del SingularityU Spain Summit, que se celebrará el 30 y 31 de marzo en Madrid - Regístrate aquí con el código descuento WOMENALIA-SUSS para ahorrar 20% sobre la oferta vigente. 

Los dilemas éticos complejos a menudo no tienen una respuesta clara, y los humanos aún no han podido traducir la ética en un conjunto de reglas inequívocas. Es cuestionable si tal conjunto de reglas puede existir, ya que los problemas éticos a menudo implican sopesar los factores entre sí y ver la situación desde diferentes ángulos.

Entonces, ¿cómo vamos a enseñar las reglas de ética a la inteligencia artificial y, al hacerlo, evitar que la IA nos provoque un gran daño o incluso nos destruya? Puede parecer un tema de ciencia ficción, pero se ha convertido en un tema de debate general en los últimos años.

OpenAI , por ejemplo, se financió con mil millones de dólares a finales de 2015 para aprender a construir una IA segura y beneficiosa. A principios de este año, los expertos en IA se reunieron en Asilomar, California, para debatir las mejores prácticas para construirla.

Se ha manifestado la preocupación de que la AI sea racista o sexista, lo que refleja el sesgo humano de una manera no intencionada, pero ésta solo puede aprender de los datos disponibles, que son, en muchos casos, demasiado humanos.

Por mucho que los ingenieros en la película insistan en que la ética puede ser «resuelta» y debe haber un «conjunto definitivo de leyes morales», el filósofo argumenta que tal conjunto de leyes es imposible de establecer, porque «la ética requiere interpretación».

Hay una sensación de urgencia en este debate, y con motivos de peso: la IA está continuamente ajustando su algoritmo. Una de las características cruciales pero más difíciles de comprender de la informática y de la inteligencia artificial es la velocidad a la que está mejorando y la sensación de que el progreso continuará acelerándose. Como dice uno de los ingenieros de la película, «La explosión de inteligencia será más rápida de lo que podemos imaginar».

Futuristas como Ray Kurzweil predicen que esta explosión de inteligencia conducirá a la singularidad, un momento en que los ordenadores, avanzando en su propia inteligencia en un ciclo acelerado de mejoras, superarán con creces toda la inteligencia humana. Las preguntas, tanto en la película como entre los principales expertos en inteligencia artificial, son cómo será ese momento para la humanidad y qué podremos hacer para garantizar el beneficiarnos de superinteligencia artificial en lugar de perjudicarnos.

Los ingenieros y filósofos en la película se muestran mortificados cuando la IA ofrece «actuar como los humanos siempre han actuado». La idea de la IA de aprender sólo de los líderes religiosos de la historia es, cuando menos, preocupante. Si la inteligencia artificial va a ser más inteligente que nosotros, también querríamos que fuese moralmente mejor que nosotros. O como el filósofo dice en la película: "No podemos confiar en la humanidad para proporcionar un modelo para la humanidad»

Si no podemos enseñar ética a una IA, terminará enseñándose a sí misma, ¿y qué pasará entonces? Simplemente puede decidir que los humanos no podemos manejar el increíble poder que le hemos otorgado, y se autoeliminará, o tomará el control.


Artículo de Vanessa Bates Ramírez, editora senior de Singularity Hub, a quien le interesan las energías renovables, la salud y la medicina, el desarrollo internacional y muchos otros temas.