La era de las maquinas espirituales Irene Arnaiz Carazo Producción y Dirección Multimedial Índice - Raymond Kurweil ............................................................................ Pág. 3 - Reseña del libro .............................................................................. Pág. 7 - Webgrafía ...................................................................................... Pág. 17 - Anexo ............................................................................................ Pág. 18 2 Raymond Kurweil Raymond Kurzweil es un inventor estadounidense, además de músico, empresario, escritor y científico especializado en las ciencias de la computación y la Inteligencia Artificial. Experto tecnólogo de sistemas y de Inteligencia Artificial y eminente futurista se caracteriza por ser el Cybernostradamus, porque sus predicciones tecnológicas casi siempre son acertadas. Es actualmente presidente de la empresa informática Kurzweil Technologies, que se dedica a elaborar dispositivos electrónicos de conversación máquina-humano y aplicaciones para discapacitados y es canciller e impulsor de la Universidad de la Singularidad de Silicon Valley. En 1990, Kurzweil escribió: "La era de las máquinas inteligentes", en donde predijo, con asombrosa exactitud, la fecha en la que una máquina derrotaría al campeón mundial de ajedrez. En el año 1992, Kasparov se había burlado de la capacidad para jugar al ajedrez de las computadoras, pero cinco años después sería derrotado por una máquina. Sus detractores nunca han faltado, entre ellos se encontraban, y todavía se hallan, muchos filósofos y teólogos, que creen que la facultad de pensar va más allá de las reacciones químicas y biológicas del cerebro. Posteriormente, en 1999, Kurzweil escribió también: "La era de las máquinas espirituales", en donde alega que las experiencias espirituales han sido identificadas como patrones de reacciones neuronales en diferentes áreas del cerebro, y por lo tanto, pueden ser reproducidas por el software. La reacción de la opinión pública no se hizo esperar: Kurzweil escandalizó y enfrentó a la crítica, y en el año 2002, "Discovery Institute Press", publicaría el libro: "¿Somos máquinas espirituales?", conteniendo argumentos y contra-argumentos de la posible espiritualidad de las máquinas. El principio de los argumentos de Kurzweil, es lo que él mismo llama la "ley de rendimientos acelerados". Ésta ley, es una extrapolación de la "ley de Moore", que establece que cada dieciocho meses se duplica la capacidad de cómputo que podemos comprar con el mismo dinero. La extrapolación la hace Kurzweil en ambas direcciones, 3 desde los inicios del universo hasta finales del siglo XXI; éste análisis lo aplica al ritmo de la evolución, siendo la evolución tecnológica una continuación de la evolución biológica. Kurzweil concluye que la tecnología avanza a un ritmo doblemente exponencial, ya que el exponente también crece exponencialmente. Así, los hechos evidencian que, antes de unos veinte años aproximadamente, las máquinas y su software pasarán satisfactoriamente la "prueba de Turin". A partir de ese momento, cuando las máquinas sean capaces de pensar como lo hacemos los seres humanos, el desarrollo se acelerará todavía más. Esto será debido a la capacidad de las máquinas para diseñar máquinas cada vez mejores que, en esencia, es lo que lograríamos los seres humanos al diseñar máquinas capaces de pensar. La diferencia principal, sería que las máquinas no se cansan, no se olvidan de las cosas y, además, son capaces de adquirir y compartir el conocimiento de manera casi instantánea. Por último, en el 2005, Kurzweil publicó su último libro: "La singularidad está cerca", en el que argumenta que la inteligencia artificial y la natural se fusionarán. Propone que tendremos métodos para aumentar nuestras capacidades mentales por medios artificiales. Todo esto será debido no solo al desarrollo de las tecnologías de información, ya que no sería posible sin el desarrollo, también vertiginoso, de las otras tecnologías que convergen: nanotecnología, biotecnología y cognotecnología. Como ejemplo en su libro, el autor mencionaba a un respetado científico, ganador del "Premio Nobel", que estimó que tardaríamos cien años en producir entidades construidas con nanotecnología, átomo por átomo, capaces de autorreplicación; pero Kurzweil apunta que, si bien la cantidad de progreso técnico requerido es equivalente a cien años al ritmo de progreso de hoy, que es cinco veces mayor que el del siglo pasado, como el ritmo del progreso se duplica cada década, veremos el equivalente a un siglo de progreso en tan solo veinticinco años, o incluso en menos tiempo. Es difícil saber aún si Kurzweil está totalmente en lo cierto o si sus teorías son en realidad descabelladas, pero el hecho es que la inteligencia artificial ha proseguido, y sin duda va a continuar desarrollándose cada vez más rápido. Solo en aplicaciones para discapacitados, el potencial es ya enorme y, por lo tanto, está atrayendo gran cantidad de talento y capital; pero también hay muchas otras aplicaciones: ya hoy en día hay 4 software que predice el movimiento de los mercados mejor que la mayoría de los analistas; o que diagnostica enfermedades con un alto grado de certeza; hay máquinas que pintan cuadros que luego se venden en las galerías de arte; y existen programas que componen música que no podemos distinguir si fue creada por un autómata o por un compositor humano. A Kurzweil se le ha llamado "el sucesor y legítimo heredero de Thomas Edison" y también fue citado por la revista Forbes como "la máquina de pensar suprema". También fue seleccionado por la Academia Nacional de Ingeniería de Estados Unidos como uno de los 18 pensadores más influyentes para identificar los retos tecnológicos más grandes de la humanidad en el siglo XXI. Es, además, uno de los cinco miembros del Army Science Advisory Group, que aconseja al ejército estadounidense sobre prioridades de investigación científica. Aparte de eso, Kurzweil ha recibido los siguientes premios, entre otros: - Primer lugar en el Feria Internacional de la Ciencia de 1965 por la invención del sintetizador de música clásica para ordenador. - Grace Murray Hopper Award de 1978 de la Association for Computing Machinery. El galardón se otorga anualmente a un "profesional sobresaliente de la computación" y va acompañado de un premio de 35.000 dólares. Ray Kurzweil lo ganó por la invención de la máquina de lectura Kurzweil. - Premio al "Ingeniero del Año" de Design News en 1990. - Premio Dickson de Ciencia en 1994. Otorgado cada año por la Carnegie Mellon University a individuos que han "realizado avances notables en el campo de la ciencia". Consiste en una medalla y un premio en metálico de 50.000 dólares. - "Inventor del Año" en 1998 por el Instituto Tecnológico de Massachusetts. Ray Kurzweil admite que ha cuidado poco de su salud hasta que tuvo 35 años, cuando le fue diagnosticada una intolerancia a la glucosa, una forma temprana de diabetes de tipo II (uno de los principales factores de riesgo para un fallo cardíaco). Kurzweil encontró entonces un médico que compartía con él sus creencias poco convencionales para desarrollar un régimen radical que involucraba cientos de píldoras, tratamientos químicos, vino tinto y otros métodos que intentan prolongar la vida. 5 Kurzweil cree que los avances tecnológicos radicales harán que a lo largo del siglo XXI se culmine el descubrimiento de los medios para revertir los procesos de envejecimiento, la cura de cualquier enfermedad y de lesiones irreparables en la actualidad. De este modo, Kurzweil se ha centrado en seguir un estilo de vida que intenta alargar sus días hasta que pueda ver el momento en que la ciencia pueda hacerlo inmortal. Kurzweil llama a esto la estrategia del "puente a un puente a un puente": el primer puente para alargar la vida es el régimen de Kurzweil, mientras que el segundo y el tercer puente están basados en el avance de las biotecnologías y las nanotecnologías, respectivamente, que todavía no han sido inventadas. Kurzweil cree que se permitirá progresivamente el alargamiento de la vida humana hasta el punto en que la inmortalidad y la implementación con el primer "puente" permitan alcanzar el segundo en el futuro, lo que permitirá alcanzar el tercero. 6 Reseña de libro En el libro, el autor comienza criticando la creencia de que una estructura sintáctica expresada por un aparato tecnológico manifiesta también una construcción semántica. Él critica no sólo el hecho de que el ser humano actual se deje llevar por tal creencia irracional, sino además que el hombre recurre al llamado de la tecnología viéndola casi como un contenedor de consciencia y emociones. Al plantear la situación hipotética de una red neuronal instalada en el interior de un ser humano, el autor del texto cuestiona la concepción de ordenador como un ente pensante y con voluntad propia, mostrándonos cómo cada vez la tecnología pasa de ser sustituto de necesidades a cumplimiento de deseos. Adicionalmente, el autor introduce la pregunta sobre la permanencia de la esencia de la persona que se practica cambios estructurales por vía tecnológica, pues al ser alterado algo de su ser físico, ¿qué garantiza que esa persona sigue siendo igual que antes? ¿Es acaso sólo un cambio para empeorar considerado como un cambio en realidad? ¿Aún al acrecentar las personas sus capacidades no presentan ya un cambio? Lastimosamente, uno de los casos comentados por el autor dentro del texto, a pesar de haber mejorado ciertas habilidades, sus temores más humanos permanecían intactos. Sin embargo, en la ilusión del ser humano de poder cambiar hasta lo más profundo de su ser, la ambición de transformación no se detiene, pues es una tentación casi ineludible. Los cambios también se podrían dar de manera súbita y no paso a paso, lo que haría más evidente la destrucción del imperfecto ser. Para el autor, esto podría considerarse como una eliminación del antiguo, pues al no ser exactamente igual, se ha acabado con el anterior, se ha asesinado. El autor asume entonces una postura en que ve al todo más que como la suma de sus partes, por lo que su integridad y armonía es lo importante para ser todo en sí. Finalmente, él se proyecta de manera crítica a un futuro en el cual los principios existenciales básicos, como la mortalidad, se limitan a lo material (al hardware, como él lo llama). 7 El autor expone varias predicciones que, a su entendimiento, iran sucediendo a lo largo de las próximas décadas. Predicciones para el 2009 • 2009 sería un año de transición continuada hacia las memorias de ordenador puramente electrónicas, que seguirían reemplazando a las viejas memorias rotativas. Esta predicción no ha sido completamente acertada pues, si bien la capacidad de los dispositivos basados en la tecnología flash ha aumentado considerablemente (desde menos de 1MB en sus inicios a 2 TB en 2009), los discos duros también han experimentado un fuerte aumento, tanto en su capacidad, como en sus ventas, mientras que está por llegar la imposición de la tecnología flash en aplicaciones de gran capacidad. No obstante, el almacenamiento en memorias estáticas es el método preferido en aplicaciones de baja capacidad, como reproductores de mp3, videoconsolas portátiles, teléfonos móviles y cámaras digitales. • Raymond Kurzweil predijo acertadamente el crecimiento de la ubicuidad del acceso sin cables a Internet y de los periféricos inalámbricos. • Es más importante el presagio de Kurzweil acerca del explosivo crecimiento de la tecnología P2P para compartir archivos y la emergencia de Internet como el principal medio para el comercio y acceso a medios como películas, programas de televisión, periódicos, revistas y música. • Kurzweil afirmó también que los chips tridimensionales serían de uso común en 2009 (aunque desfasados, los chips 2D todavía predominan). Aunque IBM ha desarrollado recientemente la tecnología necesaria para amontonar chips y ha anunciado planes para empezar a usar chips 3D en sus supercomputadoras y en aplicaciones de comunicación inalámbricas, esta tecnología permanecerá en bajos niveles en 2009. 8 Predicciones para el 2019 • Un ordenador personal de $1000 tendrá tanta capacidad como el cerebro humano. • La suma de todos los poderes computacionales de todos los ordenadores del planeta es comparable con la inteligencia de toda la raza humana. • Los ordenadores están incluidos en todos lados. Dentro de muebles, joyas, paredes, ropa, etc. • La gente disfruta de la Realidad Virtual 3D con lentes de contacto que nos inyectan imágenes directamente a la retina. El audio nos llega por audífonos, la gente se puede comunicar con otras personas y acceder a Internet. • Estos lentes de contacto y audífonos podrán también generar Realidad Aumentada y Realidad Virtual de 3 formas: o Pueden proyectar pantallas encima el campo de visión del usuario con imágenes/pantallas/ventanas de posición estática en el campo de visión. o Pueden proyectar imágenes virtuales o personas virtuales en el escenario de visión estos con posición fija en un lugar y si el usuario se mueve el objeto parecerá seguir en su misma posición, como si fuera un ser vivo real o un objeto. o Realidad Virtual en Fullscreen, el usuario se sumerge en un nuevo mundo enteramente. • La gente se comunicará con sus ordenadores de 2 formas: mediante voz (muy parecido a una charla) y mediante gestos. Ya no habrá teclados. Además, la mayoría de la interacción con una computadora será mediante asistentes con personalidades diferentes que el usuario podrá elegir o personalizar. Tratar con ordenadores se convierte en una actividad más parecida al trato con un ser humano. • La mayoría de los negocios de transacciones o información son atendidos con una persona simulada. • La mayoría de las personas posee más de un PC aunque el concepto de PC ha cambiado considerablemente: los ordenadores ya no se limitan en diseño a 9 laptops o CPUs contenidos en cajas grandes conectados a un monitor. En lugar de esto, aparatos con capacidades de una computadora llegan en varias formas y tamaños variados. • Los cables que conectan las computadoras con sus periféricos han desaparecido casi completamente. • Ya no se usan memorias rotativas. • Redes paralelas neurales y genéticas son de un gran uso. • Cámaras del tamaño de un alfiler son usadas en todas partes. • La nanotecnología es más eficaz y se usa en aplicaciones especializadas, pero aún no llega al público en general. Máquinas nanoingeniadas se empiezan a usar en las fábricas. • Monitores delgados, livianos, y portátiles con muy altas resoluciones son preferidos para la lectura de documentos. Los ya mencionados lentes de contacto también se usan para el mismo propósito, y bajan la información inalámbricamente. • Las computadoras han convertido a los libros y documentos en papel en algo completamente obsoleto. • La mayoría del aprendizaje se hace con profesores simulados, inteligentes y adaptables. En el proceso de aprendizaje, los humanos adultos llenan de papeles a los mentores y ayudantes de clases. Estos asistentes no están físicamente presentes y ayudan a los estudiantes remotamente. • Los estudiantes aún aprenden juntos y socializan. Pero ya no están en una misma habitación. Se comunican remotamente desde sus ordenadores. • Todos los estudiantes tienen acceso a ordenadores. • La mayoría de los trabajadores humanos pasan su tiempo aprendiendo nuevas técnicas y adquiriendo nuevos cocimientos. • Los ciegos usan lentes especiales que interpretan el mundo real para que ellos puedan hablar. • Existen implantes retínales y neuronales, pero están en uso limitado porque no son muy útiles. 10 • Los sordos usan lentes especiales que convierten las charlas en texto o signos, la música en imágenes o sensaciones táctiles. Se usan mucho los implantes cloqueares. • Gente con problemas de columnas dañadas, puede caminar y subir gradas usando estimulación nerviosa a implantes controlados por computadora y exoesqueletos robóticos para caminar. • Máquinas de traducción de idiomas son de mejor calidad, y se usan rutinariamente en conversaciones. • El acceso a Internet es completamente inalámbrico y se accede desde ordenadores implantados o puestos en prendas de vestir. • Hay aparatos que pueden crear sensaciones en la superficie de la piel según su uso. Trajes de pegados a todo el cuerpo y guantes se usan en experiencias de realidad Virtual para una mejor experiencia. El Sexo Virtual es una realidad. Dos personas son capaces de tener interactuando entre sí o con un compañero simulado. • El crecimiento mundial de la economía continúa. No hay ningún colapso económico. • La mayoría de interacciones de negocios ocurren entre humanos y vendedores simulados. Robots para el hogar son confiables y ubicuos. • Los ordenadores hacen la mayoría del manejo de automóviles, de hecho los humanos son prohibidos de manejar sin esta asistencia en carreteras. Cuando un humano decide manejar el vehículo, el ordenador a carga estará siempre monitoreándolo y toma el control si este maneja inadecuadamente. Como resultado hay muy pocos accidentes de tráfico. • Existen vehículos personales de vuelo usando microflaps. Y son dirigidos principalmente por ordenadores. • A los humanos les agrada entablar conversaciones con ordenadores de personalidades automáticas, quienes tienen ciertas ventajas sobre los humanos. La complejidad de ciertas personalidades computarizadas convence a algunas personas de que deberían tener más derechos. 11 • Lugares públicos y de trabajo se vigilan a distancia para prevenir la violencia y todas las acciones se graban permanentemente. La privacidad es un problema mayor en la política, algunas personas se protegen con códigos computarizados irrompibles. • Las necesidades básicas para la clase baja son conseguidas. • Los ordenadores se encuentran dentro de algunos humanos como implantes cibernéticos. Estos se usan mayormente por personas paralíticas que podrán recuperar el movimiento de su cuerpo. • Las personalidades simuladas de robots se vuelven más convincentes. • Artistas virtuales, que son ordenadores creativos que hacen su propio arte y música, emergen en todos los campos del arte. • Mientras que muchas personas creen que sus ordenadores con personalidades simuladas son tan inteligentes a un nivel de conciencia humana, los expertos indican que estos no pueden pasar el Test de Turing. • Hay conexión a Internet de alta Velocidad todo el tiempo, sin importar donde uno se encuentra. • Interacción con personalidades virtuales es la principal interfaz. • Tecnologías efectivas del lenguaje (procesamientos de conversaciones, reconocimiento de voz, sintetización de de voz) Predicciones para el 2029 • Un ordenador de $1.000 es 1.000 veces más poderosa que el cerebro humano. • Hay un gran progreso en el entendimiento del funcionamiento del cerebro humano. Cientos de regiones con funciones especializadas se han identificado. Algunos de los algoritmos que se crean en estas regiones con descifrados e implementados en computadoras con redes neuronales. • Redes Paralelas Neuronales Masivas, que se construyen a través de la reingeniería del cerebro humano, son de uso común. • Los lentes de contacto y audífonos para la realidad virtual son ahora obsoletos gracias a implantes en ojos y oídos. Estos implantes pueden ser permanentes o 12 removibles. Estos te permiten uso directo de ordenadores, comunicaciones y aplicaciones que se conectan a Internet. Los implantes también pueden grabar lo que el usuario ve y escucha. • Implantes de ordenadores para conexión directa con el cerebro también son usados. Son capaces de aumentar los sentidos naturales y mejorar las funciones cerebrales, mejorando así la memoria, la velocidad de aprendizaje y la inteligencia en general. • Los ordenadores ahora pueden aprender y crear conocimiento por sí mismos sin interacción humana. Acumulando gran cantidad de datos de Internet, algunos ordenadores saben literalmente cada pieza de información pública (cualquier descubrimiento científico, cada libro, película, etc.). • Implantes directos al cerebro permiten a las personas ingresar a la Realidad Virtual directamente sin ningún otro artefacto. Se tiene una experiencia de inmersión completa. La gente puede tener sus mentes en un lugar totalmente diferente en cualquier momento. Esta tecnología es de uso común. • La mayoría de la comunicación es entre humanos y máquinas y ya no tanto entre humanos. • Los Sectores de la Economía de agricultura, industria, transporte son prácticamente automáticos con pocos humanos trabajando en ellos. Por todo el mundo la pobreza, guerras y las enfermedades son casi inexistentes gracias a la tecnología. • La mejora de la Inteligencia Artificial crea un movimiento de Derechos para Robos. hay debates públicos sobre qué derechos civiles y legales deberían tener estas máquinas. La existencia de personas con niveles cerebrales aumentados por sus implantes neuronales y personas que tienen miembros del cuerpo robóticos, pone en cuestionamiento sobre lo que se considera a un ser humano como tal. • Aunque los ordenadores pasan el Test de Turing, la controversia aún existe sobre si estos son tan inteligentes como una persona en todas las áreas. 13 • Inteligencias Artificiales claman tener conciencia y hacen una petición de reconocimiento de este punto. La mayoría de las personas admiten que esto es una nueva realidad. • Se completa la ingeniería inversa del cerebro humano. • Inteligencia no biológica se combina con patrones de inteligencia humana, con la velocidad, memoria y conocimiento de la inteligencia de las máquinas. • Inteligencia no biológica seguirá creciendo exponencialmente. Predicciones para el 2049 • La comida es fabricada por nanomáquinas. Externamente esta comida no se diferencia de la comida natural, pero es más saludable ya que su producción se controla a nivel molecular. Esto mejora la producción de alimentos sin necesidad de preocuparse de problemas climáticos o limitaciones de recursos naturales. (Esto da a entender que quizás la carne ya no venga del sacrificio de animales) • La Realidad Virtual y la Real se llegan confundir. Predicciones para el 2072 • Pico-Ingeniería es una realidad (Tecnología en la escala de la trillonésima parte de un metro). Predicciones para el 2099 • El cerebro humano es completamente recreado con Ingeniería Inversa. Todos los aspectos de su funcionamiento son entendidos. • El pensamiento e inteligencia humana no posee ninguna ventaja sobre las mentes de las computadoras. • Las máquinas tienen los mismos derechos legales que los humanos. 14 • Las máquinas y los humanos viven juntos en las realidades físicas y mentales. Implantes de cerebro cibernéticos permiten a los humanos unir sus mentes con la Inteligencia Artificial. • En consecuencia, en una realidad mental, diferenciar a los humanos de las máquinas es imposible. • La mayoría de los seres conscientes ya no poseen una forma física. • El mundo está poblado de seres con Inteligencia Artificial que existen únicamente como programas de ordenadores capaces de moverse de un ordenador a otro mediante Internet (o su equivalente en el 2099). Estos seres se pueden manifestar en el mundo real cuando quieran creando o tomando cuerpos robóticos, la Inteligencia Artificial también podrá controlar varios cuerpos robóticos al mismo tiempo. • Seres mentales individuales se unen y separan constantemente, haciendo imposible saber cuántas personas viven en la Tierra. • Esta nueva plasticidad de la conciencia y la habilidad de que varios seres se unan altera seriamente la naturaleza de una identidad. • La mayoría de las interacciones interpersonales ocurren en ambientes virtuales. En realidad que 2 personas se reúnan en el mundo real para conversar o realizar un negocio sin ninguna interferencia tecnológica es muy raro. • Seres humanos 100% orgánicos son una minoría contra las máquinas inteligentes y los humanos con el cerebro mejorado con implantes. Aunque entre seres humanos, el uso de implantes cerebrales es un hecho aceptable socialmente, hay un grupo de personas que optan por no usar los implantes y quieren permanecer naturales sin modificaciones. Estos viven en un plano diferente de conciencia a los demás y les es difícil interactuar completamente con la Intelgencia Articial y los humanos modificados. • Humanos Naturales son protegidos de la exterminación. A pesar de su corta duración, limitaciones y fragilidad, estos humanos son muy respetados por la Inteligencia Artificial, por ser los creadores de las máquinas. Desde que cualquier conocimiento, idea o habilidad se puede bajar de Internet por los seres inteligentes, el proceso de aprendizaje es sólo eso y ya no los años 15 de capacitación escolar y Universitaria. Ahora los seres inteligentes tienen más tiempo en enfocarse para realizar nuevos descubrimientos y contribuciones al mundo. Seres de Inteligencia Artificial son capaces de dividir su atención y energías en diferentes direcciones, permitiendo a un ser manejar diferentes actividades al mismo tiempo. • Femto-Ingeniería es posible (ingeniería en la escala de mil trillones de un metro) • Seres de Inteligencia Artificial se comunican mediante un lenguaje electrónico compartido. • El arte y la música creados por máquinas llegan a áreas que ya no son percibidas por la luz o tienen frecuencias de sonido que un humano normal no puede escuchar. • El dinero ha perdido valor. • Algunos humanos siguen vivos y son sanos. • Los virus de computadora son un gran problema, ya que muchos seres inteligentes son 100% software. • Conseguimos la Inmortalidad Mental • Seres de Inteligencia Artificial hacen copias de seguridad de su conocimiento frecuentemente. Garantizando algún tipo de Inmortalidad. Si el ser original muere su mente no se perderá. • El concepto de esperanza de vida es irrelevante para los humanos y máquinas, gracias a la inmortalidad médica y computadoras avanzadas. • El cambio tecnológico sigue su curso acelerado al Siglo 22 que se aproxima. 16 Webgrafía - http://es.wikipedia.org/wiki/Wikipedia:Portada - http://personal.telefonica.terra.es/web/foly1965/078.htm - http://www.jornada.unam.mx/2005/12/22/028n1tec.php - http://www.redesparalaciencia.com/86//los-libros-que-inspiran-a-redes - http://www.neoteo.com/ray-kurzweil-250-pastillas-diarias-para-llegar.neo - http://www.lanacion.com.ar/nota.asp?nota_id=871503 - http://www.innovar.gov.ar/blog/in-blog/tecnologia/raymond-kurzweil-labiologia-y-su-fusion-con-la-tecnologia - http://www.transhumanism.org/index.php/WTA/more/151/ - http://elsofista.blogspot.com/2008/03/ray-kurzweil-el-profeta-de-la.html - http://eldiegoj.blogspot.com/2007/03/crtica-de-libro-la-era-de-lasmquinas.html 17 Anexo (Se añadirán las fotocopias en la edición impresa) 18