El Vaticano publicó el documento Antiqua et Nova en el que ofrece pautas éticas para la aplicación de la inteligencia artificial y advierte sobre los principales riesgos de su utilización en campos del quehacer humano que van desde la guerra hasta la convivencia cotidiana.
El documento subraya que la responsabilidad humana necesita crecer en proporción a la nueva tecnología, y que el impacto de los usos de la IA en varios sectores “no siempre puede ser predecible desde su inicio”.
En este sentido, advirtió que la inteligencia artificial tiene el potencial de aumentar los instrumentos de guerra “más allá del alcance de la supervisión humana”, lo que podría provocar “una carrera armamentista desestabilizadora”.
El principal peligro es la implementación de sistemas de armas que pueden identificar y atacar objetivos sin intervención humana, eliminando “la capacidad única humana para el juicio moral y la toma de decisiones éticas”, afirmó. “Ninguna máquina debería elegir nunca quitar la vida a un ser humano”.
Inteligencia artificial y las relaciones humanas
El documento advierte que la IA no es un sustituto de “las relaciones humanas auténticas” y cita su falta de empatía como un riesgo al antropomorfizar la inteligencia artificial en áreas como el desarrollo infantil o las relaciones interpersonales.
“Mientras que los seres humanos están destinados a experimentar relaciones auténticas, la IA solo puede simularlas”, dijo el documento.
Mientras que los seres humanos están destinados a experimentar relaciones auténticas, la IA solo puede simularlas
Inteligencia artificial y la búsqueda de sentido
El documento cita el riesgo de que “a medida que la sociedad se aleja de la conexión con lo trascendente, algunos se sienten tentados de recurrir a la IA en busca de sentido y cumplimiento, anhelos que solo pueden ser verdaderamente satisfechos en comunión con Dios”.
“La presunción de sustituir a Dios por un artefacto de fabricación humana es idolatría, una práctica contra la cual la Escritura advierte explícitamente”, señala el documento.
Inteligencia artificial y privacidad/vigilancia
Los avances en el procesamiento de datos impulsado por la inteligencia artificial han hecho que la privacidad de los datos sea “aún más imperativa como salvaguarda para la dignidad y la naturaleza relacional” de los individuos, destaca el documento.
“El riesgo de exceso de vigilancia debe ser monitoreado por reguladores apropiados para garantizar la transparencia y la rendición de cuentas pública”, afirmó.
El riesgo de exceso de vigilancia debe ser monitoreado por reguladores apropiados para garantizar la transparencia y la rendición de cuentas pública
Inteligencia artificial y medio ambiente
El documento subraya que, mientras la IA puede ayudar a combatir el cambio climático a través de modelos para prever eventos extremos, ayudar a gestionar emergencias y promover el desarrollo sostenible, también plantea riesgos que están oscurecidos por el uso de palabras como “la nube” que desvinculan el almacenamiento de datos “del mundo físico”.
“Es crucial reconocer que su operación demanda enormes cantidades de energía y agua, contribuyendo significativamente a las emisiones de CO2”, señala el documento.
Inteligencia artificial y educación
El documento recomienda que la IA debería ayudar a promover el pensamiento crítico, y no solo entrenar a “los jóvenes sobre cómo acumular información y generar respuestas rápidas”. La educación no se trata de “llenar la cabeza con ideas”, sino de “tomar un riesgo en las tensiones entre la mente, el corazón y las manos”, afirmó.
“Las escuelas, universidades y sociedades científicas tienen el desafío de ayudar a estudiantes y profesionales a comprender los aspectos sociales y éticos del desarrollo y usos de la tecnología”, dijo el documento.
Inteligencia artificial y salud
Mientras cita el potencial de la IA para mejorar la atención médica, como en el diagnóstico de enfermedades, el documento dijo que es crítico que la inteligencia artificial se use para mejorar y no “reemplazar la relación entre pacientes y proveedores de atención sanitaria”.
“Las decisiones respecto al tratamiento del paciente y el peso de la responsabilidad que conllevan siempre deben permanecer con la persona humana, y nunca deben delegarse a la IA”, afirmó el documento.
Inteligencia artificial y desinformación/deepfakes
La IA presenta un riesgo de “generar contenido manipulado y falsa información, que puede fácilmente engañar a las personas debido a su parecido con la verdad”, advirtió el documento.
“Contrarrestar las falsedades impulsadas por la IA no es solo trabajo de expertos de la industria, requiere los esfuerzos de todas las personas de buena voluntad”, afirmó, e hizo un llamado a la diligencia por parte de aquellos que comparten contenido generado por inteligencia artificial para verificar “la veracidad de lo que difunden”.
