Parece que no pasa un mes sin que una persona de alto perfil comente sobre el potencial de las máquinas con Inteligencia Artificial para conquistar el mundo. Elon Musk ha registrado que los sistemas de inteligencia artificial son "potencialmente más peligrosos que las armas nucleares". Pero él no es el único, Stephen Hawking también está preocupado: "El desarrollo de la inteligencia artificial completa podría significar el fin de la raza humana". El profesor Hawking le dijo a la BBC. "Despegaría por sí solo y se rediseñaría a un ritmo cada vez mayor". Incluso Bill Gates está preocupado: "Estoy en el campamento preocupado por la súper inteligencia". Estoy de acuerdo con Elon Musk y algunos otros en esto y no entiendo por qué algunas personas no están preocupadas ".

Todos expresan su preocupación por la posibilidad de que los sistemas de IA potentes tengan consecuencias no deseadas o incluso potencialmente desastrosas. En enero, Elon Musk donó $ 10 millones al Future of Life Institute (FLI) para ejecutar un programa de investigación global destinado a mantener la IA beneficiosa para la humanidad.

Hoy, el Future of Life Institute ha anunciado que ha otorgado $ 7 millones en fondos a 37 equipos de investigación en todo el mundo para que la sociedad pueda cosechar los beneficios de la IA, evitando el apocalipsis y el fin de la vida en la tierra.

El peligro con el escenario Terminator no es que sucederá, sino que distrae de los problemas reales planteados por la IA futura.

Jaan Tallin, uno de los miembros fundadores de la FLI y el tipo que escribió la versión original de Skype, dijo sobre la nueva investigación, “construir una IA avanzada es como lanzar un cohete. El primer desafío es maximizar la aceleración, pero una vez que comienza a aumentar la velocidad, también debes concentrarte en la dirección ”.

Entre los 37 proyectos hay tres proyectos que analizarán técnicas para permitir que los sistemas de inteligencia artificial aprendan qué prefieren los humanos al observar nuestro comportamiento. Uno de estos proyectos se ejecutará en UC Berkeley y el otro en la Universidad de Oxford.

Benja Fallenstein, del Machine Intelligence Research Institute, está obteniendo $ 250,000 para investigar formas de mantener los intereses de los sistemas superinteligentes alineados con los valores humanos. Mientras que el equipo de Manuela Veloso, de la Universidad Carnegie-Mellon, recibirá $ 200,000 para ver cómo hacer que los sistemas de IA expliquen sus decisiones a los humanos.

Otros proyectos incluyen un estudio de Michael Webb de la Universidad de Stanford sobre cómo mantener beneficiosos los impactos económicos de la IA, un proyecto sobre cómo mantener las armas impulsadas por la IA bajo "control humano significativo" y un nuevo centro de investigación de Oxford-Cambridge para estudiar la IA. -política relevante.

Este último es el gran premio. El nuevo centro llamado "Centro de Investigación Estratégica para la Inteligencia Artificial" estará dirigido por Nick Bostrom, el tipo que escribió el libro que causó que Elon se asustara por el futuro de la humanidad. Para establecer el centro, la FLI le está dando a Bostrom $ 1.5 millones. ¿Quién dijo que no había dinero en escribir cosas sobre robots que se apoderan del mundo? Bueno, en realidad nadie, ¡mira cuánto dinero gana Hollywood con ese género!

Hablando de Hollywood, la FLI está tratando de disociarse del apocalipsis. El FLI está dispuesto a enfatizar la importancia de separar los hechos de la ficción. "El peligro con el escenario Terminator no es que suceda, sino que distraiga de los problemas reales planteados por la futura IA", dijo el presidente de la FLI, Max Tegmark. "Nos mantenemos enfocados, y los 37 equipos respaldados por las subvenciones de hoy deberían ayudar a resolver problemas tan reales".

¿Qué piensas? ¿Dinero bien gastado?