«Riesgos existenciales»: Google lanza una inquietante predicción sobre la inteligencia artificial.
Google DeepMind, una compañía dedicada a la investigación y desarrollo de inteligencia artificial (IA), publicó el pasado jueves un inquietante documento de 145 páginas que ofrece una predicción alarmante sobre el futuro de esta tecnología.
En particular, el informe anticipa la llegada de la inteligencia artificial general (IAG) para el año 2030, lo que podría desencadenar «daños graves». Aunque no detalla la naturaleza de estos daños, advierte que podrían surgir «riesgos existenciales» que amenacen la supervivencia de la humanidad.
«[Anticipamos] el desarrollo de una IAG excepcional antes de que concluya esta década», afirman los autores. «Se trataría de un sistema con capacidades que podrían igualar al menos el percentil 99 de los adultos capacitados en una amplia variedad de tareas no físicas, incluidas aquellas de carácter metacognitivo, como el aprendizaje de nuevas habilidades», añaden.
Además, consideran plausible que los paradigmas actuales faciliten una «mejora recursiva de la IA», es decir, un bucle de retroalimentación positiva en el que la IA realiza su propia investigación para crear sistemas más avanzados, lo que representaría un riesgo considerable.
Por ello, el documento sugiere y defiende la necesidad de desarrollar técnicas que restrinjan el acceso de agentes malintencionados a posibles IAG, así como mejorar la comprensión de las acciones de los sistemas de IA y «endurecer» los entornos en los que esta tecnología puede operar.
«La naturaleza transformadora de la inteligencia artificial tiene el potencial de generar tanto beneficios impresionantes como daños severos», concluyen. «Por tanto, para construir IAG de manera responsable, es crucial que los desarrolladores de IA de vanguardia planifiquen proactivamente para mitigar los posibles daños significativos».
