Este artculo se public originalmente en ingls en agosto de 2023. Lo hemos traducido al espaol y lo ponemos a disposicin del pblico de forma gratuita debido al inters pblico en el material.This article was originally published in English in August 2023. We have translated it into Spanish and are making it free to access due to the public interest in the material. You can read more about this project here.La Oficina de Aduanas y Proteccin Fronteriza (CBP), dependiente del Departamento de Seguridad Nacional (DHS), ha gastado millones de dlares en el software de una empresa que utiliza inteligencia artificial para detectar sentimientos y emociones en publicaciones en internet, segn un conjunto de documentos obtenidos por 404 Media.La propia CBP confirm que est utilizando esta herramienta desarrollada por la empresa Fivecast para analizar informacin de fuentes pblicas relacionada con viajeros que ingresan o salen del pas y que, segn la agencia, podran representar una amenaza para la seguridad pblica, la seguridad nacional o el comercio y trnsito legtimo. Segn los documentos, Fivecast tambin ofrece reconocimiento de objetos en imgenes y videos mediante IA y la capacidad de detectar trminos y frases de riesgo en ms de un idioma.El material publicitario de la empresa destaca que el software puede recopilar datos de plataformas objetivo masivas como Facebook y Reddit, pero tambin menciona de forma directa comunidades ms pequeas como 4chan, 8kun y Gab. Para demostrar su funcionamiento, Fivecast explica en su material publicitario cmo el software fue capaz de rastrear publicaciones y conexiones en redes sociales a partir de simples datos biogrficos extrados de un artculo de The New York Times Magazine sobre miembros del movimiento paramilitar de ultraderecha conocido como Boogaloo.La noticia confirma que la CBP sigue enfocndose en el uso de sistemas de inteligencia artificial para monitorear a viajeros y otras personas consideradas de inters, incluidos ciudadanos estadounidenses. En mayo, se inform que la CBP utiliza otra herramienta de IA para evaluar a viajeros (sitio en ingls), la cual puede vincular publicaciones en redes sociales con el nmero de seguro social y la ubicacin de una persona. Esta nueva informacin muestra que la agencia ya ha implementado sistemas basados en IA y ofrece una mirada ms clara sobre lo que realmente prometen estas tecnologas, aunque tambin plantea importantes dudas sobre su precisin y utilidad.La CBP no debera estar comprando y utilizando en secreto herramientas que se basan en pseudociencia para juzgar las publicaciones de las personas en redes sociales con la excusa de que estn analizando sus emociones e identificando riesgos, dijo Patrick Toomey, subdirector del Proyecto de Seguridad Nacional de la ACLU, en un correo electrnico enviado a 404 Media.404 Media obtuvo los documentos a travs de solicitudes amparadas bajo la Ley de Libertad de Informacin (FOIA) y dirigidas tanto a la CBP como a otras agencias policiales de Estados Unidos.Uno de los documentos, marcado como confidencial comercial, ofrece una visin general del producto ONYX de la empresa Fivecast. En este documento, Fivecast afirma que su software puede utilizarse para rastrear personas, grupos, publicaciones individuales o eventos especficos, y adems de recolectar informacin de redes sociales grandes y pequeas, el sistema permite que los usuarios carguen sus propios datos en masa. Segn el documento, la herramienta fue desarrollada en consulta con agencias de inteligencia y seguridad del grupo Five Eyes (conformado por Estados Unidos, Reino Unido, Canad, Australia y Nueva Zelanda) y est optimizada especficamente para construir redes de personas de inters.En cuanto a la deteccin de emociones y sentimientos, las imgenes incluidas en el documento de Fivecast muestran emociones como ira, aversin, miedo, alegra, tristeza y sorpresa graficadas a lo largo del tiempo. Uno de los grficos muestra picos de ira y aversin durante los primeros meses de 2020, como ejemplo de un caso de objetivo especfico monitoreado.El documento tambin incluye un estudio de caso sobre cmo se podra aplicar ONYX a una red especfica. En el ejemplo, Fivecast analiza el movimiento Boogaloo, pero subraya: nuestro objetivo no es enfocarnos en un tema particular, sino demostrar cun rpido ONYX puede descubrir, recolectar y analizar riesgos desde un solo punto de partida en lnea.El proceso comienza cuando el usuario ingresa frases relacionadas con el movimiento Boogaloo, como segunda guerra civil. Luego, el usuario selecciona una cuenta de redes sociales identificada e inicia lo que Fivecast denomina su funcin de recoleccin completa, la cual recopila todo el contenido disponible en una plataforma social de una cuenta determinada. A partir de ah, la herramienta tambin mapea la red de contactos del objetivo, segn detalla el documento.Los contratos de la CBP con Fivecast han alcanzado cifras millonarias, segn los registros de compras pblicas y documentos internos de la agencia obtenidos por 404 Media. En agosto de 2019, CBP gast cerca de 350000 dlares; en septiembre de 2020, ms de 650000; en agosto de 2021, unos 260000; en septiembre de 2021, cerca de 950000, y en septiembre de 2022, casi 1,17 millones de dlares.En una declaracin enviada a 404 Media, la CBP afirm:El Departamento de Seguridad Nacional est comprometido con la proteccin de la privacidad, los derechos civiles y las libertades civiles de las personas. El DHS usa diversas tecnologas para cumplir su misin, incluidas herramientas que sirven de apoyo en investigaciones relacionadas con amenazas a la infraestructura, el trfico ilegal en la dark web, el crimen transnacional y el terrorismo. El uso de estas tecnologas se realiza conforme a nuestras facultades y la ley.En cuanto a los motivos por los cuales la CBP necesita el software de Fivecast, los documentos internos de la agencia mencionan varias unidades especficas: la Oficina de Operaciones de Campo (OFO), que representa el grueso de la CBP (sitio en ingls) y se encarga de aplicar el control fronterizo; el Centro Nacional de Identificacin de Objetivos (NTC), con sede en Virginia, que busca identificar a viajeros o cargas que puedan representar amenazas a la seguridad del pas; la Divisin de Redes de Contrainteligencia (CND), que depende del NTC, y el Grupo de Informacin de Fuentes Abiertas (PAIG), que segn otros documentos analizados se enfoca en datos como la ubicacin.Yahoo News inform en 2021 (sitio en ingls) que la CND haba recopilado informacin sobre diversos periodistas. La Oficina del Inspector General emiti una recomendacin de investigacin penal contra un funcionario que trabaj en esa divisin debido a su papel en el monitoreo, aunque finalmente no fue acusado. Un supervisor de esa unidad declar ante los investigadore: nuestro trabajo en la CND estrecha los lmites, as que no hay normas o directrices. Somos nosotros quienes las crean.Patrick Toomey, subdirector del Proyecto de Seguridad Nacional de la ACLU, agreg: El pblico sabe demasiado poco sobre la Divisin de Redes de Contrainteligencia de la CBP, pero lo que s conocemos pinta un panorama inquietante: una agencia con pocas reglas y acceso a un ocano de datos personales delicados sobre personas estadounidenses. El potencial de abuso es enorme.Fivecast no respondi a nuestras solicitudes de comentarios.