La creciente influencia de la inteligencia artificial (IA) en la vida diaria y en las decisiones gubernamentales genera tensiones globales relacionadas a la soberanía digital. Dos casos recientes que visibilizan esta problemática son la disputa entre Elon Musk y Brasil y la decisión de OpenAl de bloquear el acceso de desarrolladores de China continental y Hong Kong, lo que supone un golpe para las empresas en esos territorios que desarrollan servicios basados en los grandes modelos de lenguaje de la compañía.

Estos episodios no solo demuestran el impacto de las redes sociales y los sistemas de IA  extranjeros en las naciones, sino que también abren el debate sobre la necesidad de desarrollar algoritmos soberanos basados en estándares locales.

“Cuando hablamos de algoritmos soberanos hacemos referencia a operar o tomar decisiones en base a principios de soberanía digital. Es decir, que un gobierno, una comunidad o incluso una empresa es la generadora de su tecnología, de plataformas o de sus propios datos. Puntualmente en el caso de un algoritmo soberano es un procedimiento operado bajo las leyes de la nación o los principios éticos de la organización, lejos de lo que se pueda desarrollar o definir a partir de un proveedor extranjero”, explica Gastón Gugliotta, Gerente General de Streambe, empresa con más de catorce años de experiencia en transformación digital de negocios.

En esa línea, la principal diferencia con un algoritmo tradicional radica en el control. Al desarrollar un algoritmo soberano o propio, son las propias entidades locales y no las extranjeras las que resguardan la seguridad de los datos utilizados. Por lo tanto, quienes apliquen este tipo de algoritmos se protegerán de cualquier control y sesgo que puedan surgir del desarrollo realizado por instituciones globales que operan en otras regiones.

La IA soberana transforma industrias

Los analistas esperan que la IA revolucione la economía global de la misma manera que lo hizo Internet hace algunas décadas. La firma Statista prevé que el tamaño de este mercado alcanzará los US$ 184.000 millones en 2024. Además, esperan una tasa de crecimiento anual del 28,46 %, lo que dará como resultado un volumen de mercado de US$ 826.700 millones para 2030.

El impacto será tan grande que ningún país quedará afuera y por ese motivo los especialistas empiezan a preguntarse cómo harán los países para garantizar su soberanía digital. “Si con el avance de la IA las empresas incrementan la compra de modelos ya entrenados, deberán están atentas a conocer el origen, transparencia, calidad, y sesgo subyacente de la información con el que se los entreno”, reflexiona Gugliotta.

”El desafío está en desarrollar y mantener modelos entrenados bajo normas locales evitando principios, valores y otras cuestiones culturales que no pertenecen al propio país”, agrega.

Algoritmos soberanos

Trabajar con IA sin pensar en los algoritmos que impulsan esa tecnología no es bueno ni malo en sí mismo sino que todo dependerá del trabajo que se haga y cómo puede afectar o no a la solución que se busca brindar. En el campo de la salud, por ejemplo, los datos son sensibles y hay protocolos de seguridad donde la soberanía digital toma aún más relevancia.

“Al ser una industria en la que se suele comprar mucha información local del mercado para tomar decisiones, qué mejor que pensar en ser propios generadores de la misma”, señala el Gerente General de Streambe.

En ese contexto, existen tres ventajas de operar con algoritmos soberanos que deben ser tenidas en cuenta. Al estar en un entorno controlado, no se corre el riesgo de que los datos sean transferidos a otras ubicaciones fuera del país y terminen en lugares con menos restricciones y cuidados distintos a los que esperamos 

Además, al tener control sobre la infraestructura hay mayor acceso a la información. Por último, no en todos los países los criterios legales sobre los datos son similares. Estando en un marco local se va a operar de la manera esperada

IA y algoritmos soberanos

Las disputas entre Elon Musk y Brasil y OpenAI y China serán solo las primeras de varias que ocurrirán en los próximos años. Los algoritmos y la IA transformarán tan rápido las sociedades que los debates sobre cómo regular e implementar esta tecnología y los datos que utiliza se darán en todas las regiones del planeta.

“Considero que en los próximos cinco años, van a haber más exigencias de controles de los algoritmos y los datos. Justamente para dar garantía a ciertas industrias donde hay mayor sensibilidad de la información”, indica Gugliotta.

“Habrá dos maneras distintas de garantizar estas regulaciones. Por un lado, construir infraestructura propia y ser el creador de la información. Y por el otro, con el apoyo y el surgimiento de empresas y organizaciones que darán fe de la transparencia algorítmica y de la información”, comenta el experto de Streambe.

Finalmente advierte que “a los algoritmos se les va a exigir un nivel de transparencia que hoy no existe”.