Big Data e inteligencia artificial en el control aduanero: convergencia entre estrategia, derecho y ética

La aduana brasileña lleva al menos diez años utilizando algoritmos e inteligencia  artificial en las actividades de control aduanero, con especial énfasis en el Sistema de  Selección Aduanera por Aprendizaje Automático (SISAM), que ha convertido a la aduana  brasileña en un gran ejemplo de modernización tecnológica. 

A través del uso de algoritmos y del aprendizaje por ensayo y error, el sistema  analiza el historial de declaraciones de importación registradas en Siscomex, con el  objetivo de ayudar a la institución a reducir el porcentaje de mercancías verificadas en el despacho aduanero de importación, ya sea aumentando la precisión de las selecciones,  ayudando a los agentes aduaneros a decidir cuáles de ellas serán seleccionadas o, incluso,  decidiendo automáticamente en su lugar (1).

Se trata de un nuevo paradigma de control presente en las agendas de todas las  aduanas, que, amparadas en el uso de herramientas tecnológicas robustas, buscan  equilibrar el ejercicio de sus funciones de intervención y facilitación del comercio, las  funciones de la Aduana del Siglo XXI. 

Esta semana nos enteramos de que la administración aduanera argentina también  decidió avanzar en la definición de propuestas para la implementación de la inteligencia  artificial como herramienta potenciadora y complementaria de las tareas encomendadas  al servicio aduanero, creando a través de la Resolución 16/2024 el “Comité de Innovación  sobre Inteligencia Artificial (IAI)”.

La medida es resultado del “Plan Estratégico 2021-2025 de la Administración  Federal de Ingresos Públicos”, que define, entre otras operaciones, la implementación de  un nuevo modelo de explotación de datos (Operación Estratégica nº 13), así como el  fortalecimiento del sistema de control aduanero (Operación Estratégica nº 16) mediante  la incorporación de nuevas herramientas de explotación de datos y detección de patrones. 

Dicho Comité estará compuesto no solo por los diferentes departamentos de la  administración aduanera, sino también por los participantes en las operaciones de  comercio exterior y las universidades, lo cual debe destacarse como un punto positivo, considerando las directrices internacionales² que recomiendan la participación del sector  privado y la academia para el desarrollo de una IA estratégica y, sobre todo, ética.

Imaginamos, sin embargo, que la noticia debe haber provocado toda clase de  reacciones, lo cual es natural cuando el tema de la inteligencia artificial está en discusión.  Debido a sus características intrínsecas de transversalidad e interdisciplinariedad, la IA ha ocupado todos los espacios sociales, donde se celebran beneficios, se exponen riesgos  y se confrontan diferentes posturas, tanto en relación con su intervención en un ámbito  social más amplio, como en aplicaciones más especiales y específicas, como es el caso  de su adopción por las Administraciones Aduaneras. 

Verificamos al menos tres grandes enfoques para abordar el tema: el primero es el  camino negacionista, que simplemente prohíbe, reprime e incluso criminaliza el uso de la  IA³, una postura que hoy en día resulta ingenua, considerando todas las tareas que la  nueva tecnología ya es capaz de ejecutar. 

Existe un segundo enfoque que considera sustancialmente las ventajas  económicas que la IA puede aportar, en términos de conferir eficiencia, minimizar costos  y maximizar resultados, estos últimos siendo, además, conceptos clave en el comercio  exterior. 

El camino más equilibrado, sin embargo, no parece ser el de considerar  únicamente la dimensión económica de la tecnología en las relaciones entre las personas,  las empresas y entre éstas y el Estado, sino el de comprender cuáles son los riesgos que  la IA ya nos presenta, procurar minimizarlos y extraer de esta nueva realidad las mejores  experiencias.

1. Gestión de riesgos e inteligencia artificial: el entrelazamiento de dos nuevos  paradigmas aduaneros

Antes de adentrarse en las reflexiones sobre el uso de la IA en el control aduanero,  debemos tener en cuenta que el enfoque operativo basado en el riesgo es, en sí mismo,  una revolución paradigmática, siendo hoy considerado un verdadero principio de gestión  aduanera⁴. No se puede hablar de control aduanero moderno sin la presencia de una estructura y un proceso de gestión de riesgos. 

Este modelo parte de la premisa de la existencia continua del riesgo⁵, trayendo  consigo dos grandes y principales desafíos para las administraciones aduaneras: (i)  identificar la mejor forma de aplicar el conocimiento relacionado con la gestión de  riesgos, de modo a identificar los eventos y mitigarlos rápidamente; y (ii) cómo aplicar  estas herramientas más allá de un nivel operativo, también en el nivel de gestión  estratégica. 

Para el desarrollo y el perfeccionamiento de este modelo, dos requisitos son  fundamentales: (i) información disponible y basada en datos; y (ii) tecnologías inteligentes. La información disponible y basada en datos es la que ha viabilizado iniciativas como la liberación electrónica de mercancías, la implementación del concepto  de ventanilla única (single window) y las inspecciones no invasivas. 

Esta masiva cantidad de datos – fenómeno denominado Big Data, que será explorado más adelante – que las aduanas han obtenido, transmitido e intercambiado con  agencias gubernamentales y con las administraciones de otros países, son luego  ordenados, clasificados y tratados por sofisticadas tecnologías dotadas de inteligencia  artificial. 

Existen diversas tecnologías disponibles para las administraciones aduaneras,  muchas de las cuales son desarrolladas por los propios cuadros institucionales, como es  el caso de Brasil. Cuando están integradas, son capaces de definir patrones mediante procesos de inferencia y, con ello, inducir o disuadir comportamientos sociales. 

A diferencia de las computadoras tradicionales, que operan con base en algoritmos  preestablecidos por el programador, los nuevos sistemas de inteligencia artificial tienen  la particularidad de crear de manera automática y autónoma los algoritmos que serán  empleados en su propio funcionamiento⁶. Son, por lo tanto, tecnologías que actúan sobre la información⁷y que a veces no sólo influyen, sino que sustituyen – y automatizan – los  procesos de toma de decisiones.

2. Algunas repercusiones del análisis de datos mediante inteligencia artificial en el control aduanero 

Una de las justificaciones mencionadas por la AFIP para la creación del “Comité  de Innovación sobre Inteligencia Artificial” está basada en el proyecto creado por la  Organización Mundial de Aduanas en 2019 denominado BACUDA (“Band of Customs  Data Analysts”)⁸, que tiene por finalidad concienciar y capacitar a sus miembros en materia de análisis de datos.

El equipo del proyecto trabaja en estrecha colaboración con grupos de  investigadores del ámbito académico y de institutos de investigación para desarrollar metodologías y difundir buenas prácticas en materia de análisis de datos, incluso  ofreciendo a los miembros de la Organización algoritmos modelados específicamente  para la detección de fraudes de valor aduanero, así como para la detección de errores de clasificación fiscal. 

Sin embargo, el análisis de datos mediante inteligencia artificial suscita  reflexiones y estudios que no se limitan a la velocidad de procesamiento, la capacidad de  almacenamiento y la arquitectura algorítmica, preocupaciones típicas de los científicos de datos y de los ingenieros de computación. También es necesario comprender cómo el  uso de este conjunto masivo de datos puede impactar la libertad, la intimidad y la vida privada de los administrados, usuarios de los servicios aduaneros.

La primera característica importante del Big Data es que no se trata de información  dotada de un significado intrínseco. Los datos, por más expresivos que sean, necesitan  ser seleccionados, interpretados o comprendidos por un algoritmo, lo que ciertamente  depende del modelo ideado por quien lo codifica o programa. Además, los datos masivamente acumulados y procesados por sistemas informáticos son recolectados a partir del mundo fenoménico y, por lo tanto, son solo  fragmentos de la realidad, no reflejando la totalidad de lo real. Y como todo fragmento son parciales, además de precarios y falibles, en el sentido de que pueden no corresponder  a la realidad retratada, por más numerosos que sean⁹.

En un estudio dirigido al uso del Big Data por las administraciones aduaneras, Yotaro Okazaki afirma que el fenómeno se caracteriza por el volumen, la velocidad y la  variedad de datos, lo que requiere robustos recursos tecnológicos para su  procesamiento¹⁰. El volumen denota el tamaño y la escala de conjuntos de datos  individualmente considerados, pero también puede referirse a la cantidad total de datos agregados en el planeta. Se considera que la velocidad incluye tanto la rapidez como la frecuencia con que los datos pueden ser creados, actualizados y procesados. La variedad  es un sinónimo de diversidad, pues los datos pueden ser diversos en formato, semántica,  origen y medio de transmisión. 

Pero además de estos tres «V», hay un cuarto «V», que se refiere a la veracidad de  los datos. A diferencia de los datos conocidos o familiares, el Big Data es, por su  naturaleza, generalmente incompleto o imperfecto y, por lo tanto, incierto y propenso a  errores. Es improbable que los usuarios sospechen que los datos en cuestión fueron obtenidos de fuentes no confiables o ya tocados por partes desconocidas. Así, es importante considerar que no siempre el volumen de datos insertados en los sistemas de  IA se traducirá en una mejor decisión, ya que su calidad es un factor aún más relevante. 

Otro aspecto distintivo sobre el Big Data es que permite una mayor vigilancia de  las vidas de las personas y empresas, al mismo tiempo que hace obsoletos algunos de los  medios legales para proteger la privacidad¹¹. En el entorno aduanero, existen estas  mismas preocupaciones, especialmente en cuanto a las consecuencias de que las  administraciones aduaneras prosigan ciegamente incorporando datos externos sin control aduanero del bloque con la emisión de las Directrices CMC nº 32/2008 y  33/2008¹². 

Cabe señalar que una década antes de la aprobación del proyecto BACUDA por parte de la OMA, el Consejo del Mercado Común había alterado profundamente la lógica del control aduanero del bloque con la emisión de las Directivas CMC nº 32/2008 y 33/2008”.

La Directriz CMC 33/2008 estableció la “Norma Relativa a la Gestión del Riesgo  Aduanero” bajo la justificación de que la aplicación de técnicas de análisis de riesgo  ofrece mayores facilidades a los operadores de comercio exterior que poseen un historial  de conformidad con las normas aduaneras. 

Su texto determina que, para la consecución de estos objetivos, los Estados Partes  promuevan el tratamiento de la información, lo que implica la utilización de  procedimientos informatizados que permitan el análisis de grandes volúmenes de  operaciones aduaneras. 

Para ello, el CMC definió que se utilizarán fuentes de información tanto internas  como externas para el análisis y evaluación de los riesgos aduaneros. Estas fuentes  comprenden, entre otras, los datos contenidos en la declaración aduanera, la base de datos  interna de las Administraciones Aduaneras y la información obtenida de otros órganos o  administraciones, tanto nacionales como internacionales¹³. 

La norma aún sugiere que se creen perfiles de riesgo o reglas de selectividad a  partir de una combinación predeterminada de indicadores de riesgo, con base en la  información recopilada, analizada y categorizada. 

Por último, la Directriz determina que se realice el seguimiento y la revisión  periódica de las acciones de control aduanero y de sus resultados para conseguir una  retroalimentación adecuada, preferentemente de forma automática, del sistema informatizado de gestión de riesgos, con el fin de mejorar las reglas de selectividad.

Considerando la naturaleza confidencial de estos procesos de gestión de riesgos  aduaneros, es evidente que los particulares no tendrán acceso a la forma en que los datos  fueron recopilados, si hubo balanceo en el conjunto de datos para evitar discriminaciones,  tampoco tendrán acceso (al menos inmediato) al iter procedimental seguido por el  algoritmo. 

3. El problema de la ausencia de una ley formal sobre el tratamiento de datos

Una de las objeciones doctrinarias relativas a la implementación de decisiones  automatizadas basadas en datos reside en la inexistencia de una ley que expresamente  habilite a un organismo público a expedirse de este modo. Civitarese dice que autorizar previamente a la administración para que emita decisiones algorítmicas constituye una  premisa inexcusable; una derivación del principio de legalidad en su versión más  exigente¹⁴

Las disposiciones contenidas en el Reglamento General de Protección de Datos  del Parlamento Europeo¹⁵ prevén en su texto el derecho de una persona a no quedar sujeta  a decisiones expedidas exclusivamente de modo automatizado, incluyendo la definición  de perfiles que produzcan efectos jurídicos o que tengan un impacto igualmente  significativo en la esfera personal.

En el caso de Brasil, la Ley General de Protección de Datos (LGPD) prevé que el  tratamiento de datos personales por la administración pública deberá ser realizado para el  exclusivo cumplimiento del interés público, pero exceptúa esta observancia para los casos  de seguridad nacional. 

Es cierto que los temas aduaneros pueden ser asuntos de seguridad, pero muchas  veces son solo temas de interés económico o fiscal y, en esa condición, la aduana tiene el  mismo deber de observar sus prescripciones. 

En estos casos, la administración deberá comunicar la ocurrencia del tratamiento  con información clara y actualizada sobre la previsión legal, la finalidad, los  procedimientos y las prácticas utilizadas para la ejecución de estas actividades, en medios de fácil acceso, preferentemente en sus sitios electrónicos¹⁶. Esta es la realidad normada en el país, no necesariamente concreta.

4. Conclusiones

Existen muchos desafíos en los planos ético, normativo y social para el desarrollo  y uso de la inteligencia artificial, sobre todo en los casos que involucran a la  Administración Pública. Si en las relaciones entre entidades privadas, donde hay  consensualidad y bilateralidad, la IA ofrece riesgos y requiere límites, esta condición se  potencia en las relaciones típicamente aduaneras, donde los vínculos jurídicos están  marcados por la subordinación, es decir, por el poder (de la Administración) y la sujeción (del administrado). 

Por las reducidas dimensiones de este texto no fue posible abordar todas las  dificultades relativas a la implementación de la IA en el control aduanero, así como los  riesgos en su aplicación, cuestiones que tratamos con detalle en una obra recientemente  publicada¹⁷. Por esta razón, nos enfocamos solo en la temática de los datos, sustrato para  el adecuado funcionamiento de estas tecnologías. 

Para que se pueda tener un mínimo de confianza en relación con la adopción de  IA en estos procesos, es necesario que haya algún tipo de control y regulación tanto sobre (i) la calidad de los datos, para saber si cumplen con los requisitos de veracidad, exactitud,  precisión, acuciosidad y, sobre todo, adecuación y pertinencia según los fines que  justifican su uso, y (ii) la calidad del procesamiento de datos¹⁸, para saber si, incluso a  partir de datos de calidad, la programación utilizada para su entrenamiento es idónea para  asegurar resultados confiables¹⁹. 

Es saludable, por tanto, que este proceso sea desarrollado de forma reflexiva y sin las presiones externas normalmente impuestas para la adopción de estos nuevos modelos. No se puede hablar de eficiencia aduanera y optimización de resultados sin tener en  cuenta la dimensión ética y la capacidad de impacto de la inteligencia artificial en los  derechos de los administrados. 

Por último, tan importante como el aspecto de la regulación jurídica – cuidado que  la administración aduanera argentina ha demostrado estar observando en su plan  estratégico de inteligencia artificial – es la capacitación de los agentes aduaneros. La  presencia de la vigilancia tecnológica para la detección de patrones exigirá de los agentes el desarrollo cada vez mayor de un pensamiento crítico, tanto para saber trabajar usando la IA, pero principalmente para saber refutar sus resultados. 

---

1. JAMBEIRO FILHO, Jorge Eduardo de Schoucair. Inteligência Artificial no Sistema de Seleção Aduaneira  por Aprendizado de Máquina. Prêmio de Inovação e Criatividade da RFB. 14ª Prêmio RFB – 2015.  Coletânea de Monografias Premiadas ESAF. Disponível em: <https://repositorio.enap.gov.br> Acesso em  23 maio 2024.
2. ² OECD AI Principles overview. Disponível em: https://oecd.ai/en/ai-principles Acesso em 23 maio 2024. 
3.  PEIXOTO, Fabiano Hartmann. Inteligência Artificial e Direito: Convergência Ética e Estratégica.  Curitiba: Alteridade, 2020
4. WCO Risk Management in the Customs Context: Changing operating environment. Disponível em:  <http://www.wcoomd.org/-/media/wco/public/global/pdf/topics/enforcement-and-compliance/activities and-programmes/risk-management-and-intelligence/risk-management-compendium-volume 1.pdf?db=web> Acesso em: 23 maio 2024. 
5. WCO. Customs in the 21^st Century. Enhancing Growth and Development through Trade Facilitation  and Border Security. June 2008. Disponível em: <https://www.wcoomd.org/- /media/wco/public/global/pdf/topics/key-issues/customs-in-the-21st century/annexes/annex_ii_en.pdf?la=en>. Acesso em: 23 maio 2024.
6.  LACAVA, Federico José. Acto Administrativo Automático. Buenos Aires: Astrea, 2022. p. 29
7. CASTELLS, Manuel. 
8. WCO. BACUDA Project. Disponível em: https://bacuda.wcoomd.org/#bacuda Acesso em 23 maio 2024.
9. SEGUNDO, Hugo de Brito Machado. Direito e inteligência artificial: o que os algoritmos têm a ensinar  sobre interpretação, valores e justiça. Indaiatuba: Editora Foco, 2023. p. 9.
10. OKAZAKI, Yotaro. Implications of big data for customs-How it can support risk management  capabilities. WCO Research Paper, v. 39, 2017. Disponível em: <https://www.wcoomd.org/- /media/wco/public/global/pdf/topics/research/research-paper-series/39_okazaki_big-data.pdf>. Acesso em 23 maio 2024.
11. Por tais razões, os autores recomendam que os governos implementem medidas práticas para garantir  que esses dados sobre a identificação e as atividades pessoais sejam apenas utilizados para fins legítimos,  devendo ser proibido o compartilhamento por partes irrelevantes, ainda que tais medidas dificultem às  agências governamentais o intercâmbio dos dados. In: MAYER-SCHÖNBERGER, Viktor; CUKIER, Kenneth. Big data: A revolution that will transform how we live, work, and think. Houghton Mifflin  Harcourt, 2013. 
12.  MERCOSUL. Normativas dos órgãos decisórios do Mercosul. Disponível em: <https://www.mercosur.int/pt-br/documentos-e-normativa/normativa>. Acesso em: 08 fev. 2024.  ¹³ MERCOSUL/CCM/DIR. Nº 33/08, artigo 10.
13. MERCOSUL/CCM/DIR. Nº 33/08, artigo 10.
14. CIVITARESE, Stefano Matteucci. Umano troppo umano. Decisioni amministrative automatizzate e  principio di legalità. Diritto pubblico, v. 25, n. 1, p. 5-42, 2019. Disponível em:  <https://ricerca.unich.it/retrieve/e4233f17-3d08-2860-e053-6605fe0a460a/1721-8985-28129-1.pdf >.  Acesso em: 08 fev. 2024.
15. CIVITARESE, Stefano Matteucci. Umano troppo umano. Decisioni amministrative automatizzate e  principio di legalità. Diritto pubblico, v. 25, n. 1, p. 5-42, 2019. Disponível em:  <https://ricerca.unich.it/retrieve/e4233f17-3d08-2860-e053-6605fe0a460a/1721-8985-28129-1.pdf >.  Acesso em: 08 fev. 2024.
16.  Lei nº 13.709, de 14 de agosto de 2018, artigo 23. Disponível em:  <https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm>. Acesso em: 08 fev. 2024.
17. Tratamos com maiores detalhes dessas questões em obra recentemente publicada. Reis, Raquel Segalla.  Gestão de riscos no despacho aduaneiro de importação: inteligência artificial como instrumento e agente  de controle. São Paulo, SP. NSM Editora/Caput Libris, 2024. 
18.  A doutrina já fala em algoritmos desenviesantes. São espécies de inteligência artificial usadas para mitigar  os vieses ou ruídos nas decisões humanas, servindo como instrumento não para substituir, mas para  aperfeiçoar a atuação humana. Um exemplo dado por Machado Segundo consistiria num algoritmo que, em vez de impor ao julgador um modelo de voto pronto, feito com base em precedentes, para todo e  qualquer caso que lhe chegue, tem o papel de apontar as decisões cuja revisão é submetida ao tribunal  (administrativo ou judicial), separando aquelas que considera convergentes com o entendimento do  tribunal, daquelas que dele divergem, de modo a reclamar maior atenção às últimas. In: SEGUNDO, Hugo  de Brito Machado. Direito e inteligência artificial: o que os algoritmos têm a ensinar sobre interpretação,  valores e justiça. Indaiatuba: Editora Foco, 2023. p. 922.
19. FRAZÃO, Ana; GOETTENAUER, Carlos. Black box e o direito face à opacidade  algorítmica. Barbosa, Mafalda Miranda. Direito Digital e Inteligência Artificial. Indaiatuba: Editora  Foco, 2021. p. 29.