El resultado es... curioso.. 
http://www.microsiervos.com/archivo/ord ... ellos.html" onclick="window.open(this.href);return false;
Y aquí el texto por si lo borran:
La mortífera verdad sobre la Inteligencia Artificial: el experimento mental del coleccionista de sellos
Por @Alvy — 13 de Julio de 2015
Últimamente se habla mucho de los peligros de la inteligencia artificial: que si los coches autónomos, los drones, los algoritmos que controlan los mercados… Más de uno está realmente acojonado. Y en esta entrega de Computerphile Rob Miles explica algunas de las cuestiones teóricas relevantes al respecto y propone un estupendo ejemplo a modo de experimento mental.
El problema es que si creamos una verdadera «inteligencia artificial de tipo general» que pueda interactuar con el mundo más nos vale que esté alineada con nuestros intereses, pues de lo contrario podemos encontrarnos con escenarios muy, muy chungos – algunos realmente mortíferos. Y no es cuestión de pensar solo en Matrix o la Skynet de Terminator, que de por sí ya nacieron en la ficción como «amenazadoras»; puede suceder con algo mucho más humano y aparentemente inofensivo – algo que Isaac Asimov ya exploró en sus novelas de robots.
El ejemplo de Miles es un experimento mental llamado El coleccionista de sellos. Se trata de un programa inteligente con algunas características generales muy simples que acaba comportándose de forma extraordinariamente compleja. Su objetivo es coleccionar sellos durante un año. Tiene capacidad para interactuar con su entorno y para acceder a Internet. Además tiene un modelo del mundo real (esta parte es complicada) y otra que le permite evaluar sus acciones – esta tampoco es trivial y de hecho es la más «mágica» del experimento: básicamente puede «adivinar» que sucederá realmente tras decidir hacer algo, lo que le permite explorar todas las posibilidades en busca de la mejor opción.
Al principio quizá comience un tanto atolondrada, hasta que aprenda a comprar sellos en eBay, por ejemplo. Más adelante podría aprender que sería más óptimo conseguir gratis los sellos, quizá mintiendo a los vendedores, convenciéndoles de que se los regalen para una exposición o algo parecido. En busca de una solución óptima tal vez intentara conseguir más y más sellos comprando, cambiando, robando… y ante el «problema» de que existe solo un número finito de sellos en el mundo, una posible solución no prevista sería imprimir más sellos. ¿Qué tal hackear las imprentas o toda la red y poner a imprimir sellos a todo trapo a todas las impresoras que encuentre?
El último paso es tan aterrador como casi inevitable: tal vez el programa se percate que podría imprimir más sellos si tuviera más papel; papel que está compuesto de carbono, hidrógeno y oxígeno. ¡Qué casualidad! Como la química de nosotros los humanos. ¡Zis, zas! Podríamos empezar a ser vistos por esta inteligencia como la materia prima que necesita para conseguir su objetivo y si nadie tuvo esto en cuenta no dudaría en usarnos.
Estos escenarios suenan muy de otra dimensión, pero en un experimento mental todo es posible. Y, lo más interesante: todo comenzó por enseñar a un programa a ser inteligente con el objetivo de coleccionar sellos pero sin tener en cuenta todas las ramificaciones posibles – algo que probablemente no podríamos considerar ni aunque quisiéramos.
Un saludo,
ignacio
:lol