Pocas cosas han generado tanto interés y debate durante el último año como la inteligencia artificial (IA) a raíz del despegue de los LLMs y la inteligencia artificial generativa. La IA, con su vasto potencial para transformar industrias, ha sido recibida con una mezcla de asombro y cautela a partes iguales. En este contexto, el acuerdo provisional (que todavía deberá ser ratificado por Estados Miembros previsiblemente a finales de 2026) de la primera ley mundial de IA por la Unión Europea representa un hito crucial, no solo en el ámbito de la regulación tecnológica, sino también en la forma en que percibimos y utilizamos la IA.
Esta ley IA, la primera de este tipo en todo el mundo, no es solo un documento legal. Es un testimonio de la creciente importancia de la IA en nuestras vidas y el reconocimiento de la necesidad de un marco que guíe su desarrollo y aplicación de manera responsable. La ley busca equilibrar los beneficios de la IA con los desafíos éticos y de privacidad que conlleva, marcando el comienzo de una nueva era de innovación consciente y regulada.
La ley IA Europea
La ley de IA se centra en varios puntos clave. En primer lugar, está la protección del consumidor y del usuario. La inteligencia artificial, como cualquier otra tecnología poderosa, tiene el potencial de ser mal utilizada o de tener efectos no deseados. La legislación busca minimizar estos riesgos mediante la imposición de estándares estrictos para el desarrollo y la implementación de sistemas de IA.
En segundo lugar, la ley fomenta la innovación responsable. Reconoce que la inteligencia artificial es una fuerza motriz para el futuro económico y tecnológico y busca crear un entorno en el que los innovadores y desarrolladores puedan explorar el potencial de la IA de manera segura y ética.
Por último, la ética es un pilar central de esta futura legislación. La inteligencia artificial plantea muchos interrogantes sobre la privacidad, la autonomía y el uso de los datos con los que son entrenados los modelos. La ley aborda estos problemas, asegurando que la IA se desarrolle y aplique de una manera que respete los derechos y la dignidad de las personas.
Nuestros productos, que incluyen soluciones basadas en algoritmos de aprendizaje profundo como MobbScan y MobbID, ya reflejan un compromiso con la seguridad, la privacidad y la usabilidad. La nueva ley IA nos brinda la oportunidad de llevar estas soluciones al siguiente nivel, asegurando que estén alineadas con las regulaciones para la IA y las más altas normativas éticas y de seguridad, reafirmando nuestro compromiso con la protección de datos y la privacidad de nuestros usuarios y clientes.
Desarrollo de la ley de inteligencia artificial
El desarrollo de la primera ley mundial de inteligencia artificial por la Unión Europea surge como respuesta a la creciente omnipresencia de la IA en todos los aspectos de la vida moderna. Esta legislación no es solo un conjunto de restricciones; es una guía hacia la adopción responsable de la IA. Por lo tanto, su objetivo es fomentar la confianza en el uso de soluciones basadas en esta tecnología, estableciendo límites claros y responsabilidades para los desarrolladores y usuarios de sistemas de IA.
Puntos clave de la ley
- Categorización de riesgos (enfoque basado en el riesgo): La ley clasifica los sistemas de IA en diferentes niveles de riesgo, desde bajo hasta alto, definiendo reglas y protocolos específicos para cada categoría. Esto garantiza que las aplicaciones de alto riesgo, como el reconocimiento facial en espacios públicos, estén sujetas a controles más estrictos.
- Transparencia y responsabilidad: La ley exige que los sistemas de IA sean transparentes y explicables. Esto significa que los usuarios deben ser conscientes de cuándo están interactuando con un sistema de IA y comprender cómo toma las decisiones esa inteligencia artificial.
- Protección de datos y privacidad: Un pilar fundamental de la ley es la protección de la privacidad y los datos personales, sin olvidar el respecto de los derechos fundamentales. La IA debe ser desarrollada y utilizada de una manera que proteja la información personal y cumpla con las normativas existentes como la GDPR.
- Supervisión y cumplimiento: La ley establece un marco para la supervisión continua de los sistemas de IA, incluyendo auditorías regulares y la necesidad de cumplir con estándares éticos y legales.
Para la nueva ley de inteligencia artificial, algunos usos de la IA tienen un riesgo que se consideran inaceptables y, por lo tanto, estos sistemas estarán prohibidos en la UE.
Sin ir más lejos, el acuerdo provisional prohíbe, entre otros, la manipulación cognitiva del comportamiento, la recopilación indiscriminada de imágenes faciales de internet o de grabaciones de CCTV, el reconocimiento de emociones en el lugar de trabajo y en instituciones educativas, la puntuación social, la categorización biométrica para inferir datos sensibles, como la orientación sexual o creencias religiosas, y algunos casos de predicción policial para individuos.
Implicaciones de la ley de IA para el reconocimiento biométrico
El reconocimiento biométrico, especialmente la vigilancia mediante videocámaras con reconocimiento facial, es uno de los campos más afectados por esta ley. Dada su capacidad para identificar y verificar a las personas de manera única, el reconocimiento facial es una herramienta potente para realizar procesos de identificación ágiles, pero conlleva muchas preocupaciones en términos de privacidad y uso indiscriminado.
La ley de IA impone restricciones estrictas sobre dónde y cómo se puede utilizar el reconocimiento facial, especialmente en espacios públicos, y exige que cualquier uso de esta tecnología esté justificado y sea proporcional conforme a las diferentes normativas de privacidad.
Las regulaciones impuestas por la ley tienen un impacto significativo en cómo estas tecnologías de reconocimiento biométrico deben ser desarrolladas, presentando grandes desafíos únicos pero abriendo a la vez nuevas oportunidades.
Desafíos para el Reconocimiento Biométrico
- Restricciones en reconocimiento facial: La ley impone restricciones en el uso del reconocimiento facial en espacios públicos, planteando desafíos para las aplicaciones que dependen de esta tecnología. Tanto empresas como organismos públicos deben reevaluar cómo y dónde se implementan estos sistemas para cumplir con las normativas.
- Cumplimiento de privacidad: El respeto por la privacidad del individuo y la protección de datos personales son fundamentales. Las soluciones biométricas deben asegurar que la recopilación y el procesamiento de datos biométricos se realicen de manera segura.
- Transparencia y consentimiento: La ley IA exige una mayor transparencia en los sistemas de IA. Esto significa que los usuarios deben estar plenamente informados y dar su consentimiento antes de que sus datos biométricos sean utilizados.
Oportunidades para la Innovación
- Desarrollo de tecnologías éticas: La ley incentiva el desarrollo de tecnologías biométricas que respeten los principios éticos y de privacidad. Esto abre caminos para innovaciones que tengan en cuenta las consideraciones éticas desde su concepción y diseño.
- Creación de soluciones personalizadas: La diversificación de las necesidades de cumplimiento impulsa la creación de soluciones biométricas personalizadas, adaptadas a diferentes contextos y requisitos legales.
- Confianza y aceptación del usuario: Al adherirse a regulaciones estrictas, las empresas pueden fomentar una mayor confianza y aceptación por parte de los usuarios, lo que es fundamental para una mayor expansión y adopción de tecnologías biométricas.
En Mobbeel, entendemos que el cumplimiento de estas nuevas regulaciones no es solo una obligación legal, sino también una oportunidad para reafirmar nuestro compromiso con la innovación responsable. Nuestras soluciones de reconocimiento biométrico ya están concebidas y diseñadas con un claro enfoque en la seguridad y la privacidad, y la ley de inteligencia artificial europea nos desafía a seguir mejorando nuestras tecnologías, asegurando que no solo sean avanzadas, sino también éticamente sólidas y socialmente responsables.
Posibles multas y sanciones que plantea la ley de inteligencia artificial
La nueva ley no solo establece directrices y restricciones para el uso de la IA, sino que también define un marco riguroso de sanciones para garantizar su cumplimiento.
Las multas por infracciones de la ley de Inteligencia Artificial se han establecido como un porcentaje del volumen de negocios global anual de la empresa infractora en el último año fiscal o una cantidad predeterminada, dependiendo de cuál sea mayor. Esto sería 35 millones de euros o el 7% por violaciones de las aplicaciones de IA prohibidas, 15 millones de euros o el 3% por violaciones de las obligaciones de la ley de IA y 7,5 millones de euros o el 1,5% por proporcionar información incorrecta.
Sin embargo, el acuerdo provisional establece límites más proporcionados en las multas administrativas para las PYMEs y startups en caso de infracciones de las disposiciones de la ley de IA.
¿Cuál será el impacto en la industria y el mercado de la nueva ley de IA?
Incertidumbre, mucho ruido y desconocimiento. Todos ellos ingredientes que han llevado a muchas personas y empresas a tener miedo ante la evolución descontrolada de estas tecnologías. Y es que en el imaginario colectivo aparecen películas como Matrix o Terminator, donde la humanidad es superada y atacada por una inteligencia artificial general capaz de subyugar a toda la especie.
Como ya hemos mencionado, uno de los principales objetivos que busca la ley es aportar confianza a los consumidores y ampliar la aceptación del uso de estas soluciones dentro del mercado. El cumplimiento normativo y un enfoque más ético pueden aumentar sin duda la confianza y aceptación del consumidor, un aspecto crucial para el crecimiento sostenible a largo plazo en la industria de la identidad digital.
Inversión en investigación y desarrollo frente al freno legislativo
La forma de abordar el desarrollo de IA entre las distintas regiones muestra diferencias en estrategias de inversión, focos de investigación y desarrollo, y políticas gubernamentales. Las tendencias indican que EE. UU. y China lideran en términos de inversión y desarrollo, mientras que la UE, a pesar de sus esfuerzos, sigue siendo un jugador más pequeño pero significativo en el escenario global de la IA.
En ese sentido, son muchas la voces críticas dentro y fuera de la Unión Europea que resaltan que mientras en países como EEUU o China se invierte y se fomenta la IA a través de planes de desarrollo de la tecnología, en Europa nos quedamos atrás no sólo desde el punto de vista de la inversión, sino poniendo cortapisas a la innovación mediante la regulación de los futuros avances tecnológicos que se puedan hacer en materia de IA.
Posiblemente en el equilibrio esté la virtud y ese es precisamente el objetivo que busca la nueva ley de IA: Permitir un desarrollo de la tecnología que respete y proteja nuestros derechos y privacidad. Sólo el tiempo dirá si cumple su objetivo.
Fuente: «The AI Index 2023 Annual Report» published by Stanford University»
Mientras tanto, nuestra apuesta pasa por abrazar este cambio para seguir siendo líderes en el desarrollo de soluciones de identidad digital. Para ello, seguimos apostando por la innovación como eje de toda nuestra visión, pero con un enfoque de innovación consciente, donde cada nuevo desarrollo esté en consonancia con unos principios éticos y de privacidad.
Además, nuestra agilidad y flexibilidad nos permite adaptarnos a cada cambio normativo, lo que nos permite ser un referente en el cumplimiento normativo y a través de él, establecer a Mobbeel como una marcad de confianza y credibilidad en la industria de la identidad digital.
Un modelo para países no europeos
El debate mundial sobre la regulación de la IA se extiende mucho más allá de las fronteras de Europa. Países de todo el mundo reconocen la necesidad imperiosa de establecer marcos normativos que regulen el uso de esta tecnología. La Ley de Inteligencia Artificial de la UE puede servir de modelo a muchas naciones que se esfuerzan por encontrar un equilibrio entre la innovación y las preocupaciones éticas. La UE sienta, por tanto, un precedente que otros países están dispuestos a imitar.
Por ejemplo, Australia también está en el proceso de crear una regulación sobre IA, por lo que el reglamento de IA puede servirles de referencia.
La visión y el planteamiento de la UE tiene el potencial de inspirar a otros países a recorrer un camino similar, personalizando y adoptando la legislación a cada casuística.
Conclusiones: navegando en la era de la inteligencia artificial regulada
La primera ley mundial de Inteligencia Artificial marca un punto de inflexión en cómo la tecnología, especialmente aquella relacionada con el reconocimiento biométrico a través de videocámaras (vigilancia) en espacios públicos, se percibe y regula en el ámbito global. Esta legislación pionera no solo establece límites y estándares, sino que también abre un camino hacia una era de innovación más ética en la IA, estableciendo un marco para el crecimiento sostenible de las tecnologías de identidad digital
Mientras tanto, nosotros seguiremos posicionados en la intersección de la innovación tecnológica y el cumplimiento normativo, buscando constantemente nuevas vías de mejorar y evolucionar nuestras soluciones para dar respuestas eficaces a los problemas y demandas de un mundo cambiante e inexplorado en el que poder verificar a las personas con total confianza y seguridad.
Contacta con nosotros si quieres utilizar tecnología puntera basada en inteligencia artificial para verificar a tus usuarios.
Soy Ingeniero Informático y amante del Marketing, Comunicación e Internacionalización de empresas, tareas que desarrollo como CMO de Mobbeel. Soy muchas cosas, algunas buenas, muchas malas… perfectamente imperfecto.
Descubre qué es el Reconocimiento Facial
- Conoce la historia del reconocimiento facial: sus orígenes y evolución.
- Aprende cómo funcionan los sistemas de reconocimiento facial.
- Mira los distintos casos de uso y posibilidades de aplicación.
- Comprende las distintas implicaciones que tiene la tecnología en nuestra sociedad actual.
- Descubre los desafíos en ciberseguridad.
- Conoce las regulaciones implicadas en los procesos biométricos.
