La inteligencia artificial podría caer en malas manos, advierten expertos

Martes 20 de Febrero de 2018 - Desde París (AFP)

noticia

Expertos internacionales alertan en un informe publicado el miércoles sobre los riesgos de un uso malintencionado de la inteligencia artificial por parte de "Estados corruptos, de criminales o de terroristas" en un futuro cercano.

Según ellos, en la próxima década, la eficacia creciente de la inteligencia artificial (IA) podría reforzar la cibercriminalidad y conducir al uso de drones o robots con fines terroristas. Podría también facilitar la manipulación de elecciones a través de las redes sociales mediante cuentas automatizadas (bots).

Este extenso informe de 100 páginas fue redactado por 26 expertos especialistas en IA, ciberseguridad y robótica de prestigiosas universidades (Cambridge, Oxford, Yale, Stanford) y organismos no gubernamentales (OpenAI, Center for a New American Security, Electronic Frontier Foundation).

Estos expertos piden a los gobiernos y a los diferentes actores de este campo que pongan en pie mecanismos para limitar las posibles amenazas relacionadas con la inteligencia artificial.

"Creemos que los ataques que serían posibles por el uso creciente de la IA serán particularmente efectivos, finamente dirigidos y difíciles de atribuir", advierten.

Para ilustrar sus temores, estos especialistas mencionan varios "escenarios hipotéticos de usos malintencionado de la IA".

Explican por ejemplo que terroristas podrían alterar los sistemas de IA disponibles en los comercios (drones o vehículos autónomos) para causar accidentes o explosiones.

Los autores imaginan también casos de robots de limpieza traficados que se colarían entre otros robots encargados por ejemplo de la limpieza de un ministerio. Un día, el intruso podría atacar tras localizar visualmente al ministro. Se acercaría a él y se haría estallar, detallan.

- Videos falsos -

Por otra parte, Seán Ó hÉigeartaigh, uno de los autores del estudio, explica, en entrevista con la AFP, que "la cibercriminalidad, en fuerte alza, podría consolidarse con herramientas facilitadas por la IA".

Por ejemplo, los ataques denominados de spear phishing (ataques dirigidos a una organización o empresa para robar por ejemplo información confidencial) podrían ser más fáciles de llevar a cabo a una escala mayor.

Pero para él, "el riesgo más grande, aunque es menos probable, es el riesgo político". "Ya hemos visto cómo algunas personas están usando la tecnología para tratar de interferir en elecciones", apunta.

"Si la IA permite que estas amenazas se vuelvan más fuertes, más difíciles de detectar y atribuir, esto podría plantear problemas importantes de estabilidad política y tal vez contribuir a desencadenar guerras", estima Seán Ó hÉigeartaigh.

Con la IA sería posible, por ejemplo, realizar videos falsos pero muy realistas que podrían ser utilizados para desacreditar a responsables políticos, afirman los expertos.

Los Estados autoritarios, agrega el informe, podrían también apoyarse en la inteligencia artificial para vigilar a sus ciudadanos.

- Múltiples advertencias -

No es la primera vez que expertos lanzan una señal de alarma sobre la IA. En 2014, el astrofísico Stephen Hawking advirtió sobre los riesgos que la inteligencia artificial podría hacer correr a la humanidad si supera la inteligencia humana. El empresario Elon Musk y otros también han multiplicado las advertencias.

También se han publicado informes sobre el uso de drones asesinos o sobre la manera en la que la IA podría afectar a la seguridad de países como Estados Unidos.

Este nuevo documento aporta "un panorama general sobre la manera en la que la IA crea nuevas amenazas o cambia la naturaleza de las amenazas existentes en campos como la seguridad digital, física o política", explica Seán Ó hÉigeartaigh.

La inteligencia artificial, que apareció en los años 1950, se basa en algoritmos sofisticados que permiten resolver problemas que los humanos resuelven utilizando sus capacidades cognitivas.

En los últimos años se han hecho progresos enormes en los campos relacionados con la percepción, el reconocimiento de voz y el análisis de imágenes.

"Por el momento sigue habiendo una brecha significativa entre los avances de la búsqueda e investigación y sus posibles aplicaciones. Es el momento de actuar", dijo a la AFP Miles Brundage, encargado de investigación del Future of Humanity Institute de la Universidad de Oxford.



Otras noticias


Trump evalúa orden ejecutiva contra Google y Facebook (prensa)

El presidente estadounidense Donald Trump evalúa una orden ejecutiva que abriría investigaciones federales antimonopolio y criminales contra Google, Facebook y otras redes sociales, informaron medios este sábado, aunque la Casa Blanca se distanció de esos informes.

Un tornado deja muy afectada la región capital de Canadá

Más de 200.000 habitantes en la región capital de Ottawa, en Canadá, seguían el sábado sin electricidad y dos personas estaban gravemente heridas después de que un poderoso tornado destruyera la víspera docenas de casas y lanzara los automóviles por el aire.
medioambiente,petróleo,empresas,energía,Brasil,Francia

Militantes tiñen en Francia fuentes de negro denunciando proyecto de Total en Brasil »

Militantes ecologistas tiñeron de negro el sábado varias fuentes en Francia para denunciar un proyecto de la compañía petrolera francesa Total en las costas de Brasil, que amenaza, según la organización, un arrecife de coral "único", ubicado en la desembocadura del Amazonas.


Japan,space

Microrrobots exploradores enviados por Japón comienzan inspección de asteroide »

Los microrrobots exploradores lanzados por Japón aterrizaron en la superficie del asteroide Ryugu y comenzaron este sábado su misión de recabar información sobre los orígenes del sistema solar y de la vida.


GB,EEUU,fusiones,televisión,medios

Comienzan las apuestas para adquirir el grupo televisivo Sky »

La lucha por saber cuál de los gigantes estadounidenses de los medios, si Comcast o Fox, comprará el grupo de televisión Sky, se transformó este sábado en una subasta que puede poner fin a un novelón que comenzó hace dos años.


Canadá,meteorología,tormenta

Un tornado provoca graves daños cerca de la capital de Canadá »

Un tornado desató el pánico el viernes por la tarde cerca de Ottawa, en Canadá, y dejó tras de sí 30 heridos, decenas de casas y edificios dañados, automóviles volcados y 130.000 personas sin electricidad.


México,Canadá,EEUU,comercio

México buscará pacto bilateral con Canadá si TLCAN fracasa, dice AMLO »

México buscará un acuerdo comercial bilateral con Canadá en caso de que Ottawa y Washington no logren consenso sobre la renovación del TLCAN, que las tres naciones integran desde 1994, dijo este viernes el presidente electo, Andrés Manuel López Obrador.


Colombia,empresas,internet,sociedad

Facebook hace en Colombia el lanzamiento mundial de su servicio de citas »

Colombia es el primer país del mundo en usar Dating, la nueva herramienta de Facebook que permite a sus usuarios conocer personas con intereses similares, anunció la compañía.