Política de cumplimiento de IA

1. Transparencia y conocimiento del usuario

1.1. Comunicación del contenido generado por IA

Todo el contenido y las respuestas generados por IA se identificarán claramente ante los usuarios.

La transparencia es un principio central de nuestro enfoque de atención al cliente basada en IA. Los usuarios deben saber cuándo un contenido o una respuesta se ha generado mediante inteligencia artificial y poder entender el papel de la IA en la interacción.

La comunicación tiene como objetivo dejar clara la participación de la IA. La capacidad de un sistema de IA para generar respuestas en lenguaje natural no cambia nuestro compromiso de identificarlas como generadas por IA.

Este compromiso afecta a la presentación del contenido generado por IA a los usuarios y forma parte de nuestro enfoque general de interacciones transparentes con los clientes.

1.2. Identificación del contenido asistido por IA

Las interacciones asistidas por IA que modifiquen o generen contenido se etiquetarán como tales.

Esto incluye identificar la participación de la IA cuando un contenido se genera o modifica mediante una interacción asistida por IA. El etiquetado tiene como objetivo que el usuario pueda reconocer el origen o la modificación de ese contenido.

El mismo principio de transparencia se aplica a los medios generados descritos en el apartado 4 de esta política. Tanto si el resultado es una respuesta como otra forma de contenido generado, nos comprometemos a comunicar claramente la participación de la IA.

1.3. Ausencia de manipulación cognitivo-conductual

La IA de Komsai no manipula el comportamiento ni la toma de decisiones de los usuarios mediante técnicas cognitivo-conductuales.

Nuestro uso de la IA en atención al cliente se rige por este compromiso y por los requisitos de transparencia y conocimiento del usuario. La generación de respuestas conversacionales no modifica nuestra posición sobre el uso de técnicas cognitivo-conductuales para manipular a los usuarios.

La comunicación y la ausencia de manipulación abordan aspectos distintos de una interacción responsable: la comunicación permite saber que participa la IA, mientras que la ausencia de manipulación se refiere a las técnicas utilizadas en la interacción.

2. IA ética y gestión de riesgos

2.1. Actividades excluidas

Nuestros sistemas de IA no realizan identificación biométrica, puntuación social ni vigilancia en tiempo real.

Estas exclusiones definen los límites de la IA de Komsai descritos en esta política. Se aplican junto con nuestro compromiso de desarrollar agentes de atención al cliente seguros, transparentes, trazables y no discriminatorios.

El uso de IA para apoyar las interacciones con clientes no modifica estas exclusiones: nuestros sistemas de IA no realizan identificación biométrica, puntuación social ni vigilancia en tiempo real.

2.2. Datos biométricos sensibles

La IA de Komsai no trata ni almacena datos biométricos sensibles.

Este compromiso se refiere tanto al tratamiento como al almacenamiento de esos datos. Complementa la exclusión de la identificación biométrica indicada anteriormente y es independiente de nuestros compromisos generales sobre protección de datos personales.

Por tanto, nuestra posición sobre los datos biométricos sensibles debe leerse junto con las disposiciones de protección de datos del apartado 5, y no como sustitución de estas.

2.3. Evaluación continua de riesgos inaceptables

Evaluamos continuamente nuestros modelos para garantizar que no presenten riesgos inaceptables según la definición del AI Act.

La evaluación de riesgos es un elemento continuo de nuestro enfoque de IA responsable. Tiene en cuenta los riesgos asociados a los modelos y a su uso, no solo la capacidad del sistema para generar una respuesta.

La evaluación de riesgos inaceptables complementa las evaluaciones de impacto continuas descritas en el apartado 3. En conjunto, estos compromisos abordan tanto los límites establecidos por el AI Act como la equidad, precisión y seguridad de las interacciones con clientes.

Nuestro compromiso con una IA ética combina estas evaluaciones de riesgos con las exclusiones explícitas de este apartado.

3. Cumplimiento de la normativa de IA de alto riesgo

3.1. Posición respecto a las categorías de alto riesgo

La IA de Komsai no pertenece a categorías de alto riesgo, como las fuerzas del orden, el control migratorio o los productos sanitarios.

Esta es la posición de esta política respecto a nuestras soluciones de IA. Los ejemplos anteriores identifican los tipos de categorías de alto riesgo a los que se refiere este compromiso.

Además de esta posición, Komsai aplica voluntariamente buenas prácticas de gobernanza de IA, como evaluaciones de impacto continuas, supervisión humana y la posibilidad de revisión humana de las reclamaciones sobre decisiones de IA.

3.2. Evaluaciones de impacto continuas

Realizamos evaluaciones de impacto continuas para garantizar la equidad, la precisión y la seguridad.

Estos tres criterios abordan distintos aspectos del rendimiento de la IA en atención al cliente. La equidad se refiere al enfoque no discriminatorio descrito en esta política; la precisión, a la calidad y corrección de los resultados de la IA; y la seguridad, a los posibles efectos perjudiciales en las interacciones con clientes.

El compromiso de realizar evaluaciones continuas significa que estos criterios siguen formando parte de nuestro enfoque más allá del desarrollo inicial de una solución de IA.

Las evaluaciones de impacto complementan la evaluación continua del rendimiento de la IA y de los riesgos inaceptables. Forman parte de las prácticas de gobernanza que Komsai aplica voluntariamente.

3.3. Supervisión humana

Mantenemos la supervisión humana para evitar automatizaciones perjudiciales en las interacciones con clientes.

La supervisión humana forma parte de nuestro enfoque para utilizar de forma responsable los agentes de atención al cliente basados en IA. Su objetivo es abordar los riesgos asociados a la automatización en las interacciones con usuarios.

Este compromiso está relacionado con los criterios de equidad, precisión y seguridad descritos anteriormente. También complementa la posibilidad de revisión humana cuando los usuarios presentan reclamaciones sobre decisiones de IA.

3.4. Reclamaciones y revisión humana

Los usuarios tienen derecho a presentar reclamaciones sobre decisiones de IA y pueden solicitar una revisión humana.

La revisión humana permite que una persona valore la preocupación de un usuario sobre una decisión de IA. Forma parte de los compromisos de gobernanza descritos en este apartado.

La supervisión humana y la revisión humana tienen finalidades relacionadas. La supervisión busca prevenir automatizaciones perjudiciales; la revisión examina una reclamación sobre una decisión de IA.

Ambas forman parte del enfoque de Komsai para ofrecer interacciones responsables con clientes.

4. IA generativa y responsabilidad sobre el contenido

4.1. Diseño para prevenir contenido ilegal o perjudicial

Nuestros modelos de IA están diseñados para evitar la generación de contenido ilegal o perjudicial.

La responsabilidad sobre el contenido forma parte del diseño de nuestras soluciones de IA generativa. La capacidad de generar contenido se considera junto con los principios de seguridad y ética de esta política.

Este compromiso se refiere al diseño de los modelos para prevenir resultados ilegales o perjudiciales. Está relacionado con la evaluación continua de riesgos y del rendimiento de la IA descrita en otros apartados.

La generación de contenido, su diseño responsable y su presentación transparente son elementos relacionados de nuestro enfoque.

4.2. Cumplimiento de los derechos de autor

Cumplimos la legislación de la UE sobre derechos de autor y publicamos resúmenes de los datos protegidos por derechos de autor que se utilizan para entrenar la IA.

Nuestro compromiso en materia de derechos de autor aborda el uso de material protegido para entrenar modelos de IA. Publicar resúmenes forma parte de la transparencia de esta política respecto a los datos de entrenamiento.

Este compromiso es distinto del etiquetado de resultados generados por IA. Los resúmenes de datos de entrenamiento se refieren a datos protegidos utilizados para entrenar modelos; el etiquetado de resultados se refiere al contenido presentado a los usuarios.

Ambas disposiciones forman parte de nuestro enfoque de responsabilidad y transparencia en IA generativa.

4.3. Etiquetado de imágenes, vídeos y audios generados

Las imágenes, los vídeos y los audios generados por IA se etiquetarán claramente para evitar la desinformación.

Este compromiso amplía el principio de comunicación más allá de las respuestas conversacionales e incluye los medios generados. El objetivo es dejar claro que el material se ha generado mediante IA.

El formato del resultado no modifica el principio de transparencia. Las imágenes, los vídeos y los audios generados por IA están sujetos al compromiso de etiquetado claro.

Por tanto, combinamos el diseño de modelos para prevenir contenido ilegal o perjudicial con la identificación del contenido generado cuando se presenta.

5. Protección de datos y seguridad

5.1. Cumplimiento de los requisitos de protección de datos

Komsai cumple plenamente el Reglamento General de Protección de Datos (RGPD) y la normativa de privacidad de datos de todos los mercados en los que opera.

La protección de datos forma parte de nuestro compromiso con el desarrollo y la implementación responsables de la IA. El uso de IA en atención al cliente se considera junto con los requisitos aplicables a la información personal.

Este compromiso se aplica junto con las disposiciones específicas siguientes sobre conservación de datos personales, cifrado y ciberseguridad.

La protección de datos y la gobernanza de la IA están relacionadas, pero abordan responsabilidades distintas. Este apartado trata de proteger la información de los usuarios; los demás abordan cuestiones como la transparencia, la evaluación de riesgos, el contenido generado y la supervisión humana.

5.2. Consentimiento explícito para conservar datos personales

No se conserva ningún dato personal sin el consentimiento explícito del usuario.

Este es nuestro compromiso sobre la conservación de información personal en el contexto de las interacciones con IA cubiertas por esta política.

El requisito de consentimiento afecta a la conservación de datos personales y debe leerse junto con el compromiso general de cumplir el RGPD y la normativa de privacidad aplicable.

También se aplica junto con la disposición independiente según la cual la IA de Komsai no trata ni almacena datos biométricos sensibles.

5.3. Cifrado de las interacciones con IA

Las interacciones con IA están cifradas para proteger la información de los usuarios.

El cifrado forma parte del compromiso de seguridad descrito en esta política. Protege la información de las interacciones con IA y complementa nuestros requisitos de privacidad de datos.

El uso de respuestas generadas por IA no modifica este compromiso de proteger la información de los usuarios.

5.4. Estándares de ciberseguridad

Las interacciones con IA siguen estrictos estándares de ciberseguridad para proteger la información de los usuarios.

La ciberseguridad y el cifrado son elementos complementarios del enfoque de seguridad de esta política. En conjunto, protegen la información de las interacciones con clientes basadas en IA.

Estos compromisos de seguridad forman parte de nuestro enfoque general de IA responsable, junto con la transparencia, la gestión ética de riesgos y la supervisión humana.

6. Supervisión continua y notificación

6.1. Evaluación continua del rendimiento de la IA

Komsai evalúa continuamente el rendimiento de la IA.

Esta evaluación forma parte de nuestro enfoque continuo para utilizar las soluciones de IA de forma responsable. Está relacionada con los compromisos de equidad, precisión, seguridad y prevención de contenido ilegal o perjudicial.

La evaluación del rendimiento debe leerse junto con la evaluación continua de riesgos inaceptables y las evaluaciones de impacto descritas en esta política.

Estos compromisos abordan aspectos relacionados del uso de la IA: rendimiento, impacto y riesgo. En conjunto, forman parte de nuestra supervisión de la atención al cliente basada en IA.

6.2. Notificación de incidentes graves

Komsai notifica los incidentes graves que exige el AI Act de la UE.

Este compromiso se refiere a los requisitos de notificación aplicables en virtud del AI Act y forma parte de nuestro enfoque de cumplimiento normativo e implementación responsable.

La notificación de incidentes graves es distinta de la posibilidad de revisión humana de las reclamaciones de usuarios. La primera se refiere a las notificaciones exigidas por el AI Act; la segunda, a la revisión de reclamaciones sobre decisiones de IA.

Ambos compromisos forman parte de esta política y deben entenderse según sus respectivas finalidades.

6.3. Cooperación en materia de cumplimiento y estándares éticos

Trabajamos con organismos reguladores y socios del sector para garantizar que nuestra IA siga cumpliendo la normativa y los estándares éticos, que evolucionan continuamente.

Esta cooperación forma parte de nuestro enfoque de cumplimiento continuo. Refleja la relación entre el desarrollo de soluciones de IA y las normas legales y éticas aplicables a su uso.

Nuestro compromiso incluye prestar atención a los requisitos cambiantes, junto con la evaluación continua y el análisis de riesgos descritos en esta política.

El cumplimiento normativo, los estándares éticos y la supervisión del rendimiento siguen siendo elementos relacionados de nuestro enfoque de IA responsable.

7. Apoyo a la innovación y a una IA responsable

7.1. Disposición a participar en entornos de pruebas de IA de la UE

Komsai está dispuesta a participar en entornos de pruebas de IA de la UE para perfeccionar nuestros modelos antes de su despliegue.

Esta declaración expresa nuestra disposición a participar en esos entornos para facilitar el perfeccionamiento de los modelos antes de su despliegue.

La oportunidad de perfeccionar modelos de IA está relacionada con los principios de esta política, como la seguridad, la equidad, la precisión y el desarrollo responsable.

Nuestra disposición a participar forma parte de nuestro enfoque de innovación dentro del marco de una IA responsable.

7.2. Adopción justa y accesible

Komsai promueve una adopción justa y accesible de la IA.

Este compromiso se refiere a la adopción de la IA por parte de las empresas y está relacionado con nuestro enfoque general de desarrollo e implementación responsables.

Consideramos la innovación responsable junto con la capacidad de las empresas para beneficiarse de la tecnología basada en IA. La transparencia, el uso ético, la protección de datos y la supervisión humana siguen formando parte de este enfoque.

7.3. Empresas de distintos tamaños

Komsai promueve la adopción de tecnología de IA que beneficie a empresas de todos los tamaños, incluidas las pequeñas y medianas empresas y las grandes empresas.

Nuestro enfoque de innovación incluye a todos estos grupos. Los principios descritos en esta política se aplican a nuestro compromiso con la adopción responsable de la IA por parte de empresas de distintos tamaños.

Apoyar la innovación y mantener los principios de una IA responsable son partes relacionadas del enfoque de Komsai. Nos comprometemos a desarrollar e implementar soluciones de IA dentro del marco de transparencia, seguridad, no discriminación, protección de datos y cumplimiento descrito en esta política.