Apocalipsis no ahora? Los beneficios de la IA aún podrían superar sus peligros muy reales | Inteligencia Artificial (IA)

Stephen Cave tiene una experiencia considerable en acciones bien intencionadas que tienen consecuencias desafortunadas. Exdiplomático de alto rango en el Foreign Office durante la era del Nuevo Laborismo, estuvo involucrado en negociaciones de tratados que luego, e inesperadamente, se desmoronaron para desencadenar varios eventos internacionales, incluido el Brexit. “Conozco el impacto de los eventos mundiales bien intencionados que salen mal”, admite.

Sin embargo, su experiencia podría resultar invaluable. El exdiplomático, ahora un destacado académico, está listo para dirigir un nuevo instituto en la Universidad de Cambridge que estudiará todos los aspectos de la inteligencia artificial con el objetivo de identificar los peligros intelectuales que enfrentamos frente a la creciente destreza de las computadoras y resaltar su usos positivos. Una apreciación de los peligros de las consecuencias no deseadas debería ser útil. “Ha habido mucho enfoque de los medios en la IA que condujo a la extinción humana o al colapso de la civilización”, dice Cave. "Estos temores son exagerados, pero eso no significa que la IA no dañará a la sociedad si no tenemos cuidado".

Los posibles peligros incluyen un desempleo generalizado a medida que las máquinas se hacen cargo de los trabajos en educación, periodismo, derecho y academia; la difusión de información errónea; acumulación ilícita de datos personales; el uso de software de reconocimiento facial para rastrear a los manifestantes; y la influencia perniciosa de las líneas de chat de IA. Un ejemplo de este último peligro se ilustró la semana pasada cuando se le dijo a un tribunal del Reino Unido que un chatbot de IA estaba involucrado en la complicidad de Jaswant Singh Chail en un intento de matar a la difunta reina con una ballesta.

Puede que la IA no tenga resultados apocalípticos, pero su potencial disruptivo es claramente considerable. “El poder está concentrado en manos de unas pocas grandes empresas que tienen el monopolio de la construcción de IA”, dice Eleanor Drage, quien dirigirá un equipo de investigadores en el nuevo instituto. "Ese es el tipo de cosas que debemos temer, porque podría conducir al mal uso de la IA".

El Instituto de Tecnología y Humanidad de Cambridge fusionará tres instituciones académicas: el Centro Leverhulme para el Futuro de la Inteligencia; el Centro para el Estudio del Riesgo Existencial, que se dedica al estudio de todas las amenazas que podrían llevar a la extinción humana o al colapso de la civilización; y el nuevo Centro de Inteligencia Artificial Inspirada en Humanos, que se centrará en encontrar formas de hacer avanzar la IA en beneficio de la humanidad.

El instituto resultante, que se inaugurará más adelante este año, abordará las amenazas de la IA y también se centrará en sus perspectivas de brindar beneficios al mundo. Esto se hará combinando una amplia gama de talentos, desde escritores hasta científicos informáticos y filósofos y artistas, agrega Cave. “El instituto tendrá una orientación muy interdisciplinar y abierta al exterior”, insiste. Un punto crucial enfatizado por Cave y Drage fue el impacto de las transformaciones tecnológicas pasadas en las sociedades. “Steam y la Revolución Agrícola fueron increíblemente disruptivos. A algunas personas les fue bien, pero muchas otras perdieron sus trabajos y hogares.

"La IA tiene el potencial de hacer esto, y tendremos que ser muy cuidadosos para garantizar que estos últimos efectos se mantengan al mínimo. Sin embargo, los cambios que trae están llegando a un ritmo mucho más rápido que las revoluciones tecnológicas anteriores. .

Uno de los principales temas destacados por Drage es la alta preponderancia masculina en la industria de la IA. “Solo el 22% de los profesionales de IA son mujeres”, dijo a la Observador. "Tampoco hay estímulo de los medios para que esto mejore. En los medios, en las películas, solo el 8% de los científicos de IA son retratados como mujeres, sin lugar en la industria".

En cambio, las representaciones están dominadas por personajes como Tony Stark, el alter ego de Iron Man en las películas de Marvel. Supuestamente graduado del Instituto Tecnológico de Massachusetts a los 17 años, Stark consagra la construcción cultural del ingeniero de IA como un visionario masculino, dice Drage. Él, en lugar de la imagen de Terminator de Arnold Schwarzenegger que normalmente se usa para ilustrar las amenazas de la IA, es la verdadera personificación de sus peligros.

“Este no es un punto trivial. Si se presenta a las mujeres como si no tuvieran un papel efectivo que desempeñar en la IA en ningún nivel, entonces los productos y servicios producidos por la industria fácilmente podrían terminar discriminando activamente a las mujeres.

Tanto Cave como Drage enfatizan que el nuevo instituto de Cambridge no solo emitirá advertencias sobre la IA, sino que también se esforzará por buscar sus beneficios.

"La IA nos permite ver patrones en los datos que los humanos no pueden captar, y eso tendrá beneficios para todo tipo de áreas: desde el descubrimiento de fármacos hasta la mejora del uso de la energía, y desde la medicina personalizada hasta el aumento de la eficiencia de los cultivos acuáticos", añade Cave. . "Tenemos mucho que ganar y mucho que perder si no tenemos cuidado".