La inteligencia artificial podría caer en malas manos, advierten expertos

Martes 20 de Febrero de 2018 - Desde París (AFP)

noticia

Expertos internacionales alertan en un informe publicado el miércoles sobre los riesgos de un uso malintencionado de la inteligencia artificial por parte de "Estados corruptos, de criminales o de terroristas" en un futuro cercano.

Según ellos, en la próxima década, la eficacia creciente de la inteligencia artificial (IA) podría reforzar la cibercriminalidad y conducir al uso de drones o robots con fines terroristas. Podría también facilitar la manipulación de elecciones a través de las redes sociales mediante cuentas automatizadas (bots).

Este extenso informe de 100 páginas fue redactado por 26 expertos especialistas en IA, ciberseguridad y robótica de prestigiosas universidades (Cambridge, Oxford, Yale, Stanford) y organismos no gubernamentales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).

Estos expertos piden a los gobiernos y a los diferentes actores de este campo que pongan en pie mecanismos para limitar las posibles amenazas relacionadas con la inteligencia artificial.

"Creemos que los ataques que serían posibles por el uso creciente de la IA serán particularmente efectivos, finamente dirigidos y difíciles de atribuir", advierten.

Para ilustrar sus temores, estos especialistas mencionan varios "escenarios hipotéticos de usos malintencionado de la IA".

Explican por ejemplo que terroristas podrían alterar los sistemas de IA disponibles en los comercios (drones o vehículos autónomos) para causar accidentes o explosiones.

Los autores imaginan también casos de robots de limpieza traficados que se colarían entre otros robots encargados por ejemplo de la limpieza de un ministerio. Un día, el intruso podría atacar tras localizar visualmente al ministro. Se acercaría a él y se haría estallar, detallan.

- Videos falsos -

Por otra parte, Seán Ó hÉigeartaigh, uno de los autores del estudio, explica, en entrevista con la AFP, que "la cibercriminalidad, en fuerte alza, podría consolidarse con herramientas facilitadas por la IA".

Por ejemplo, los ataques denominados de spear phishing (ataques dirigidos a una organización o empresa para robar por ejemplo información confidencial) podrían ser más fáciles de llevar a cabo a una escala mayor.

Pero para él, "el riesgo más grande, aunque es menos probable, es el riesgo político". "Ya hemos visto cómo algunas personas están usando la tecnología para tratar de interferir en elecciones", apunta.

"Si la IA permite que estas amenazas se vuelvan más fuertes, más difíciles de detectar y atribuir, esto podría plantear problemas importantes de estabilidad política y tal vez contribuir a desencadenar guerras", estima Seán Ó hÉigeartaigh.

Con la IA sería posible, por ejemplo, realizar videos falsos pero muy realistas que podrían ser utilizados para desacreditar a responsables políticos, afirman los expertos.

Los Estados autoritarios, agrega el informe, podrían también apoyarse en la inteligencia artificial para vigilar a sus ciudadanos.

- Múltiples advertencias -

No es la primera vez que expertos lanzan una señal de alarma sobre la IA. En 2014, el astrofísico Stephen Hawking advirtió sobre los riesgos que la inteligencia artificial podría hacer correr a la humanidad si supera la inteligencia humana. El empresario Elon Musk y otros también han multiplicado las advertencias.

También se han publicado informes sobre el uso de drones asesinos o sobre la manera en la que la IA podría afectar a la seguridad de países como Estados Unidos.

Este nuevo documento aporta "un panorama general sobre la manera en la que la IA crea nuevas amenazas o cambia la naturaleza de las amenazas existentes en campos como la seguridad digital, física o política", explica Seán Ó hÉigeartaigh.

La inteligencia artificial, que apareció en los años 1950, se basa en algoritmos sofisticados que permiten resolver problemas que los humanos resuelven utilizando sus capacidades cognitivas.

En los últimos años se han hecho progresos enormes en los campos relacionados con la percepción, el reconocimiento de voz y el análisis de imágenes.

"Por el momento sigue habiendo una brecha significativa entre los avances de la búsqueda e investigación y sus posibles aplicaciones. Es el momento de actuar", dijo a la AFP Miles Brundage, encargado de investigación del Future of Humanity Institute de la Universidad de Oxford.



Otras noticias


La genealogía genética aclara un crimen en EEUU

El misterio de la agresión sexual seguida de homicidio de una adolescente estadounidense en 1986 fue resuelto 32 años más tarde gracias a la técnica innovadora de la genealogía genética, anunciaron las autoridades del estado de Washington.

Los socios de la OPEP respaldan el acuerdo para aumentar la producción

Tras una semana de tensiones por las reticencias de Irán, los socios petroleros de la OPEP, incluida Rusia, respaldaron este sábado la decisión del cártel de aumentar su producción de crudo en cerca de un millón de barriles diarios.

fbl,WC,2018,VIE,Vietnam,offbeat

En Vietnam, las mascotas del Mundial de fútbol salen del cascarón »

Bufandas de fútbol, camisetas y... ¿cascarones vacíos? Los souvenirs del Mundial de Rusia-2018 adquieren un aspecto original en Vietnam, donde un profesor jubilado fabrica mascotas con cáscaras de huevo meticulosamente trabajadas a mano.


HongKong,economy,stock

El grupo chino Xiaomi apuntará al mercado europeo tras su salida a bolsa »

El fabricante de smartphones chino Xiaomi apuntará de manera agresiva al mercado europeo, utilizando parte de los ingresos generados por su Oferta Pública de Venta (OPV) en Hong Kong de 6.100 millones de dólares, indicó el sábado el cofundador de la empresa.


medioambiente,animales,México

Ría Lagartos, el hogar de los flamencos rosados en el este de México »

Ría Lagartos, en el estado mexicano de Yucatán (este) y donde el agua salada se confunde con la dulce, es el hogar de majestuosos flamencos rosados que en esta temporada ven el nacimiento de sus polluelos en una zona celosamente vigilada por autoridades ambientales.


Argentina,FMI,macroeconomía,finanzas

Argentina recibió primer tramo del crédito del FMI, por USD 15.000 millones »

Argentina recibió este viernes 15.000 millones de dólares del Fondo Monetario Internacional (FMI), primer tramo de un crédito por 50.000 millones para conjurar una crisis cambiaria y estabilizar la economía, informó el Banco Central en un comunicado.


sciences,physique,recherche,insolite

Científicos desvelan el misterioso ruido del goteo de un grifo »

El misterio que se esconde detrás del molesto ruido del goteo de un grifo acaba de ser disipado por un grupo de investigadores, que proponen un remedio simple para solucionarlo: el lavavajillas líquido.