La inteligencia artificial podría caer en malas manos, advierten expertos

Martes 20 de Febrero de 2018 - Desde París (AFP)

noticia

Expertos internacionales alertan en un informe publicado el miércoles sobre los riesgos de un uso malintencionado de la inteligencia artificial por parte de "Estados corruptos, de criminales o de terroristas" en un futuro cercano.

Según ellos, en la próxima década, la eficacia creciente de la inteligencia artificial (IA) podría reforzar la cibercriminalidad y conducir al uso de drones o robots con fines terroristas. Podría también facilitar la manipulación de elecciones a través de las redes sociales mediante cuentas automatizadas (bots).

Este extenso informe de 100 páginas fue redactado por 26 expertos especialistas en IA, ciberseguridad y robótica de prestigiosas universidades (Cambridge, Oxford, Yale, Stanford) y organismos no gubernamentales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).

Estos expertos piden a los gobiernos y a los diferentes actores de este campo que pongan en pie mecanismos para limitar las posibles amenazas relacionadas con la inteligencia artificial.

"Creemos que los ataques que serían posibles por el uso creciente de la IA serán particularmente efectivos, finamente dirigidos y difíciles de atribuir", advierten.

Para ilustrar sus temores, estos especialistas mencionan varios "escenarios hipotéticos de usos malintencionado de la IA".

Explican por ejemplo que terroristas podrían alterar los sistemas de IA disponibles en los comercios (drones o vehículos autónomos) para causar accidentes o explosiones.

Los autores imaginan también casos de robots de limpieza traficados que se colarían entre otros robots encargados por ejemplo de la limpieza de un ministerio. Un día, el intruso podría atacar tras localizar visualmente al ministro. Se acercaría a él y se haría estallar, detallan.

- Videos falsos -

Por otra parte, Seán Ó hÉigeartaigh, uno de los autores del estudio, explica, en entrevista con la AFP, que "la cibercriminalidad, en fuerte alza, podría consolidarse con herramientas facilitadas por la IA".

Por ejemplo, los ataques denominados de spear phishing (ataques dirigidos a una organización o empresa para robar por ejemplo información confidencial) podrían ser más fáciles de llevar a cabo a una escala mayor.

Pero para él, "el riesgo más grande, aunque es menos probable, es el riesgo político". "Ya hemos visto cómo algunas personas están usando la tecnología para tratar de interferir en elecciones", apunta.

"Si la IA permite que estas amenazas se vuelvan más fuertes, más difíciles de detectar y atribuir, esto podría plantear problemas importantes de estabilidad política y tal vez contribuir a desencadenar guerras", estima Seán Ó hÉigeartaigh.

Con la IA sería posible, por ejemplo, realizar videos falsos pero muy realistas que podrían ser utilizados para desacreditar a responsables políticos, afirman los expertos.

Los Estados autoritarios, agrega el informe, podrían también apoyarse en la inteligencia artificial para vigilar a sus ciudadanos.

- Múltiples advertencias -

No es la primera vez que expertos lanzan una señal de alarma sobre la IA. En 2014, el astrofísico Stephen Hawking advirtió sobre los riesgos que la inteligencia artificial podría hacer correr a la humanidad si supera la inteligencia humana. El empresario Elon Musk y otros también han multiplicado las advertencias.

También se han publicado informes sobre el uso de drones asesinos o sobre la manera en la que la IA podría afectar a la seguridad de países como Estados Unidos.

Este nuevo documento aporta "un panorama general sobre la manera en la que la IA crea nuevas amenazas o cambia la naturaleza de las amenazas existentes en campos como la seguridad digital, física o política", explica Seán Ó hÉigeartaigh.

La inteligencia artificial, que apareció en los años 1950, se basa en algoritmos sofisticados que permiten resolver problemas que los humanos resuelven utilizando sus capacidades cognitivas.

En los últimos años se han hecho progresos enormes en los campos relacionados con la percepción, el reconocimiento de voz y el análisis de imágenes.

"Por el momento sigue habiendo una brecha significativa entre los avances de la búsqueda e investigación y sus posibles aplicaciones. Es el momento de actuar", dijo a la AFP Miles Brundage, encargado de investigación del Future of Humanity Institute de la Universidad de Oxford.



Otras noticias


Carlos Ghosn, inculpado en Japón, seguirá en prisión

Tres semanas después de su arresto por sorpresa en Tokio, Carlos Ghosn fue inculpado el lunes por disimular sus ingresos durante cinco años y continuará de momento en detención provisional.

Ejecutiva de Huawei presa en Canadá pide ser liberada por razones de salud

La ejecutiva del grupo chino de telefonía Huawei presa en Canadá a pedido de Estados Unidos pidió ser dejada en libertad por razones de salud, según una declaración presentada el domingo ante la justicia canadiense.
Japón,Francia,automóvil,justicia,investigación,Brasil,Líbano

Carlos Ghosn, acusado en Japón de disimulación de ingresos durante cinco años »

La Fiscalía de Tokio acusó formalmente este lunes a Carlos Ghosn de disimulación de ingresos recibidos en Nissan durante cinco años, informaron medios japoneses, tres semanas después del sorpresivo arresto del presidente de la alianza de automóviles con Renault y Mitsubishi Motors.


EEUU,sociedad,niños,móvil,informática,ciencias,salud

El cerebro de los niños cambia por excesivo tiempo ante pantallas, según estudio »

El cerebro de niños que pasan demasiado tiempo ante pantallas de aparatos inteligentes o videojuegos parece modificarse, según un estudio del Instituto Nacional de la Salud (NIH) de Estados Unidos revelado el domingo por la cadena CBS.


Francia,EEUU,FMI,crecimiento,manifestaciones,economía,comercio

Desaceleración del crecimiento en EEUU será más pronunciada en 2020, según FMI »

Estados Unidos sentirá los efectos de la desaceleración del crecimiento en otras partes del mundo, advirtió el domingo el economista jefe del FMI, quien también descartó por ahora una recesión para la principal potencia económica del mundo.


EEUU,China,diplomacia,comercio

China sube el tono por caso Huawei pero EEUU se mantiene firme sobre comercio »

Washington rechazó el domingo la idea de que el arresto de una directora del grupo chino Huawei pueda contaminar las negociaciones comerciales con Pekín, pese a que este domingo el gobierno chino convocó al embajador estadounidense, lo que aumentó la tensión entre ambas potencias.


México,energía

López Obrador planea aumentar presupuesto de estatal Pemex en USD 3.700 millones »

El presidente de México, Andrés Manuel López Obrador, dijo este domingo que planea aumentar el presupuesto de la estatal Pemex en 75.000 millones de pesos (unos 3.700 millones de dólares) en 2019 para incrementar la producción petrolera y de gasolinas en el país.


Brasil,política,medioambiente,gobierno

Bolsonaro nombra ministro de Medio Ambiente al abogado derechista Ricardo Salles »

El presidente electo de Brasil, Jair Bolsonaro, designó como futuro ministro de Medio Ambiente al abogado derechista Ricardo Salles, exresponsable del área en Sao Paulo, acabando con la última gran incógnita sobre la formación de su gobierno, tras descartar la fusión de esta cartera con Agricultura.