BAQUIA

Google crea un botón del pánico ante la ‘amenaza’ de la inteligencia artificial

El avance de la inteligencia artificial gracias a empresas como Google, Facebook o Microsoft, entre otras, demuestra que cada vez está más cerca el día en que las máquinas puedan interactuar con las personas de manera más o menos natural.

Este hecho hace que a su vez se esté más cerca de que todos aquellos relatos de ciencia ficción que dibujan el levantamiento de las máquina se pudiera hacer realidad. Es evidente que se está muy lejos de que eso vaya a ocurrir realmente. Hay que confiar en el control del humano frente a la máquina, pero también hay que saber tomar precauciones, no vaya a ser que efectivamente se esté ante la creación de Skynet (la malvada inteligencia artificial que considera enemigo al ser humano en Terminator y programa su eliminación).

Google crea el botón del pánico ante la 'amenaza' de la inteligencia artificial

Por el momento, la IA de Google logró vencer al ser humano hace unos meses en una competición al mejor de cinco partidas a Go, y se está volviendo más competente en diferentes áreas.

Quizá por eso, DeepMind, el propio laboratorio londinense propiedad de Google que creó la IA que venció al campeón de Go, ha llevado a cabo un estudio para crear un ‘botón del pánico’ que ‘destruya’ la inteligencia artificial de las máquinas y las convierta básicamente en simples calculadoras, según informa Business Insider.

En asociación con varios científicos de la Universidad de Oxford, DeepMind está buscando la forma de hacer que los dispositivos y máquinas con inteligencia artificial no aprendan a prevenir o que traten de evitar que los seres humanos tomen el control de sus acciones.

El informe publicado en la web del Instituto de Investigación de la Inteligencia de la Máquina (MIRI, por sus siglas en inglés) fue escrito por Laurent Orseau, científico de investigación en Google DeepMind, Stuart Armstrong, del Instituto del Futuro de la Humanidad de la Universidad de Oxford, entre otros.

Los investigadores explican su trabajo en el informe: “No es probable que se comporten [las máquinas dotas de IA] de forma óptima todo el tiempo. De vez en cuando puede ser necesario un operador humano que presione el gran botón del pánico para evitar que la inteligencia artificial continúe una secuencia nociva de acciones y que sea perjudicial ya sea para ella misma o para el medio ambiente”.

Los investigadores aseguran haber creado un escenario en el que permiten a un humano de forma segura interrumpir el proceso de una inteligencia artificial, como comentan en el informe, y asegurarse de que no aprenda la forma de permanecer activa.

“Interrumpir la actividad será útil para tomar el control de un robot que se está portando de manera incorrecta y puede conducir a consecuencias irreversibles, o para sacarlo de una situación delicada”, explican los científicos.

Estas máquinas podrían ser muy poderosas, por las mismas razones básicas que los seres humanos son muy poderosos en relación con otros animales de este planeta.

Varios investigadores opinan que una vez que las máquinas alcancen la equivalencia humana, no pasará mucho tiempo hasta que se vuelvan superinteligentes. Es el caso del científico también de Oxford Nick Bostrom, cuya opinión la dejó en un encuentro universitario el pasado mes de mayo: “Estas máquinas podrían ser muy poderosas, por las mismas razones básicas que los seres humanos son muy poderosos en relación con otros animales de este planeta. No es porque nuestros músculos sean más fuertes, sino que es porque nuestros cerebros son mejores”.


Compartir en :


Noticias relacionadas




Comentarios