No cabe duda que Stephen Hawking, a parte de ser un científico reconocido, atrae a muchas personas de a pie alrededor del mundo. Últimamente hemos tenido noticias constantes sobre él. Por ejemplo, hace poco se presentó una carta abierta en las conferencias sobre Inteligencia Artificial (IJCAI) en Buenos Aires, que firmó junto con Elon Musk, Noam Chomsky, Wozniak, y decenas investigadores especializados en Inteligencia Artificial y robótica, en la que advertía sobre los peligros del desarrollo de "armas autónomas ofensivas" que pueden generar una carrera armamentista militar a través de la Inteligencia Artificial.

También se dio a conocer que apoyaba el proyecto más grande hasta la fecha para intentar encontrar vida extraterrestre que financia el multimillonario Yuri Milner. Así pues, cuando se anunció en Reddit, en julio pasado, un AMA (Ask Me Anything) con él científico, la respuesta fue una cantidad de más de 9 mil preguntas, convirtiéndose en uno de los más concurridos en la historia de Reddit.

Con una dinámica diferente a los AMA tradicionales las preguntas fueron evaluadas y dadas a conocer Hawking quien contestó 11 de ellas, las cuales fueron publicadas el día de hoy. Varias de las respuestas atienden sobre el tema de la Inteligencia Artificial y otras son más personales; estas son algunas de ellas.

¿Por qué está preocupado por el crecimiento de la Inteligencia Artificial?

El riesgo real con la IA no es la maldad sino la incompetencia. Un IA súperinteligente será muy bueno en el cumplimiento de sus objetivos pero si esos objetivos no están alineados con los nuestros, estamos en problemas.

Es probable que no seas alguien que odie a las hormigas y que las pises solo por malicia, pero si estuvieras a cargo de un proyecto de una hidroeléctrica de energía verde y hay un hormiguero en la región que va a inundarse, lo siento por las hormigas. No debemos colocar a la humanidad en la posición de esas hormigas.

¿Cuán inteligente pueden los humanos crear Inteligencia Artificial y al mismo tiempo garantizar no ser superados por ella?

Es claramente posible que algo adquiera una inteligencia superior a sus ancestros: Hemos evolucionado para ser más inteligentes que nuestros antepasados ​​hombres mono y Einstein era más inteligente que sus padres.

La línea sobre la que preguntas sería si la Inteligencia Artificial se vuelve mejor que los humanos para diseñar IA, por lo que podría mejorarse por sí misma sin ayuda humana. Si eso pasa, estaremos haciendo frente a máquinas cuya inteligencia excedería la nuestra como la nuestra excede la de los caracoles.

¿Alguna vez ha pensado acerca de la posibilidad del desempleo tecnológico, donde hemos desarrollado procesos automáticos que finalmente causan un gran desempleo porque estos realizan trabajos más rápidos o más baratos que las personas?

Si las máquinas llegan a producir todo lo que necesitamos, el resultado dependerá de cómo distribuyamos las cosas. Todo el mundo podría disfrutar de una vida de lujo si la riqueza, resultado de esa producción, se reparte o la mayoría de la gente podría terminar siendo miserablemente pobre si los dueños de las máquinas tienen éxito al presionar en contra de la redistribución de la riqueza. De momento, la tendencia parece ir hacia la segunda opción, con la tecnología provocando una desigualdad cada vez mayor.

Lo que quiero preguntarle es sobre el mensaje que dirigió advirtiendo sobre el peligro de las máquinas inteligentes, usted habla sobre desarrollos y avances actuales (en áreas tales como el aprendizaje de las máquinas) o ¿está tratando de decir que deberíamos prepararnos desde ya por lo que, inevitablemente, vendrá en un futuro lejano?

No hay un consenso sobre los investigadores de Inteligencia Artificial acerca de cuanto tiempo tomará construirla a nivel humano y más allá, así que, por favor, no confíes es nadie cuando asegura que sabe a ciencia cierta lo que va a pasar en el transcurso de tu vida o lo que no pasará en ella. Cuando, eventualmente esto ocurra, podrá ser lo mejor o lo peor que le habrá pasado a la humanidad. Por lo que hay gran valor en hacer bien las cosas. Debemos cambiar el objetivo de crear solo inteligencia artificial a crear inteligencia artificial benéfica. Esto puede tomar décadas para saber como será, así que comencemos con esta búsqueda ahora, mejor que la noche anterior que la primera auténtica inteligencia artificial sea encendida.

¿Cuál es su canción favorita?

'Have I Told You Lately' de Rod Stewart.

¿Su película favorita?

Jules et Jim de 1962

¿Cuál es la última cosa que vio on-line y le pareció divertido?

The Big Bang Theory

¿Cuál es el misterio que le resulte más interesante, y por qué?

Mujeres. Mi (auxiliar médico) me recuerda que aunque tengo un doctorado en física, las mujeres seguirán siendo un misterio.