Política de compliment de la IA

1. Transparència i coneixement de l’usuari

1.1. Comunicació del contingut generat per IA

Tot el contingut i les respostes generats per IA s’identificaran clarament davant dels usuaris.

La transparència és un principi central del nostre enfocament de l’atenció al client amb IA. Els usuaris han de saber quan un contingut o una resposta s’ha generat amb intel·ligència artificial i han de poder entendre el paper de la IA en la interacció.

La comunicació té per objectiu fer evident la participació de la IA. La capacitat d’un sistema d’IA per generar respostes en llenguatge natural no canvia el nostre compromís d’identificar-les com a generades per IA.

Aquest compromís afecta la manera com es presenta als usuaris el contingut generat per IA i forma part del nostre enfocament general d’interaccions transparents amb els clients.

1.2. Identificació del contingut assistit per IA

Les interaccions assistides per IA que modifiquin o generin contingut s’etiquetaran com a tals.

Això inclou identificar la participació de la IA quan un contingut es genera o modifica mitjançant una interacció assistida per IA. L’etiquetatge té per objectiu que l’usuari pugui reconèixer l’origen o la modificació del contingut.

El mateix principi de transparència s’aplica als mitjans generats descrits a l’apartat 4 d’aquesta política. Tant si el resultat és una resposta com una altra forma de contingut generat, ens comprometem a comunicar clarament la participació de la IA.

1.3. Absència de manipulació cognitivoconductual

La IA de Komsai no manipula el comportament ni la presa de decisions dels usuaris mitjançant tècniques cognitivoconductuals.

El nostre ús de la IA en l’atenció al client es regeix per aquest compromís i pels requisits de transparència i coneixement de l’usuari. La generació de respostes conversacionals no modifica la nostra posició sobre l’ús de tècniques cognitivoconductuals per manipular els usuaris.

La comunicació i la no-manipulació aborden aspectes diferents de la interacció responsable: la comunicació permet saber que hi participa la IA, mentre que la no-manipulació afecta les tècniques emprades en la interacció.

2. IA ètica i gestió de riscos

2.1. Activitats excloses

Els nostres sistemes d’IA no duen a terme identificació biomètrica, puntuació social ni vigilància en temps real.

Aquestes exclusions defineixen els límits de la IA de Komsai descrits en aquesta política. S’apliquen juntament amb el compromís de desenvolupar agents d’atenció al client segurs, transparents, traçables i no discriminatoris.

L’ús de la IA per donar suport a les interaccions amb els clients no modifica aquestes exclusions: els nostres sistemes d’IA no duen a terme identificació biomètrica, puntuació social ni vigilància en temps real.

2.2. Dades biomètriques sensibles

La IA de Komsai no tracta ni emmagatzema dades biomètriques sensibles.

Aquest compromís afecta tant el tractament com l’emmagatzematge d’aquestes dades. Complementa l’exclusió de la identificació biomètrica indicada anteriorment i és independent dels compromisos generals sobre protecció de dades personals.

Per tant, la nostra posició sobre les dades biomètriques sensibles s’ha de llegir conjuntament amb les disposicions de protecció de dades de l’apartat 5, i no pas com a substitut d’aquestes.

2.3. Avaluació contínua dels riscos inacceptables

Avaluem contínuament els nostres models per garantir que no presentin riscos inacceptables segons la definició de l’AI Act.

L’avaluació de riscos és un element continu del nostre enfocament d’IA responsable. Té en compte els riscos associats als models i al seu ús, no només la capacitat del sistema de generar una resposta.

L’avaluació dels riscos inacceptables complementa les avaluacions d’impacte contínues descrites a l’apartat 3. En conjunt, aquests compromisos aborden tant els límits establerts per l’AI Act com l’equitat, la precisió i la seguretat de les interaccions amb els clients.

El nostre compromís amb una IA ètica combina aquestes avaluacions de riscos amb les exclusions explícites d’aquest apartat.

3. Compliment de la normativa sobre IA d’alt risc

3.1. Posició respecte de les categories d’alt risc

La IA de Komsai no pertany a categories d’alt risc, com ara les forces de l’ordre, el control migratori o els dispositius mèdics.

Aquesta és la posició d’aquesta política respecte de les nostres solucions d’IA. Els exemples anteriors identifiquen els tipus de categories d’alt risc a què es refereix aquest compromís.

A més d’aquesta posició, Komsai aplica voluntàriament bones pràctiques de governança de la IA, com ara avaluacions d’impacte contínues, supervisió humana i la possibilitat de revisar amb intervenció humana les reclamacions sobre decisions de la IA.

3.2. Avaluacions d’impacte contínues

Fem avaluacions d’impacte contínues per garantir l’equitat, la precisió i la seguretat.

Aquests tres criteris aborden aspectes diferents del rendiment de la IA en l’atenció al client. L’equitat es refereix a l’enfocament no discriminatori descrit en aquesta política; la precisió, a la qualitat i correcció dels resultats de la IA; i la seguretat, als possibles efectes perjudicials en les interaccions amb els clients.

El compromís d’avaluar de manera contínua significa que aquests criteris continuen formant part del nostre enfocament més enllà del desenvolupament inicial d’una solució d’IA.

Les avaluacions d’impacte complementen l’avaluació contínua del rendiment de la IA i dels riscos inacceptables. Formen part de les pràctiques de governança que Komsai adopta voluntàriament.

3.3. Supervisió humana

Mantenim la supervisió humana per evitar l’automatització perjudicial en les interaccions amb els clients.

La supervisió humana forma part del nostre enfocament per fer un ús responsable dels agents d’atenció al client basats en IA. Té per objectiu abordar els riscos associats a l’automatització en les interaccions amb els usuaris.

Aquest compromís està relacionat amb els criteris d’equitat, precisió i seguretat descrits anteriorment. També complementa la possibilitat d’una revisió humana quan els usuaris presenten reclamacions sobre decisions de la IA.

3.4. Reclamacions i revisió humana

Els usuaris tenen dret a presentar reclamacions sobre decisions de la IA i poden sol·licitar-ne una revisió humana.

La revisió humana permet que una persona valori la preocupació d’un usuari sobre una decisió de la IA. Forma part dels compromisos de governança descrits en aquest apartat.

La supervisió humana i la revisió humana tenen finalitats relacionades. La supervisió busca prevenir l’automatització perjudicial; la revisió examina una reclamació sobre una decisió de la IA.

Totes dues formen part de l’enfocament de Komsai per oferir interaccions responsables amb els clients.

4. IA generativa i responsabilitat sobre els continguts

4.1. Disseny per prevenir contingut il·legal o perjudicial

Els nostres models d’IA estan dissenyats per evitar que es generi contingut il·legal o perjudicial.

La responsabilitat sobre els continguts forma part del disseny de les nostres solucions d’IA generativa. La capacitat de generar contingut es considera juntament amb els principis de seguretat i ètica d’aquesta política.

Aquest compromís afecta el disseny dels models per prevenir resultats il·legals o perjudicials. Està relacionat amb l’avaluació contínua dels riscos i del rendiment de la IA descrita en altres apartats.

La generació de contingut, el seu disseny responsable i la seva presentació transparent són elements relacionats del nostre enfocament.

4.2. Compliment dels drets d’autor

Complim la legislació de la UE sobre drets d’autor i publiquem resums de les dades protegides per drets d’autor que s’utilitzen per entrenar la IA.

El nostre compromís en matèria de drets d’autor aborda l’ús de material protegit per entrenar models d’IA. Publicar-ne resums forma part de la transparència d’aquesta política respecte de les dades d’entrenament.

Aquest compromís és diferent de l’etiquetatge dels resultats generats per IA. Els resums de les dades d’entrenament es refereixen a les dades protegides utilitzades per entrenar els models; l’etiquetatge dels resultats, al contingut que es presenta als usuaris.

Totes dues disposicions formen part del nostre enfocament de responsabilitat i transparència en IA generativa.

4.3. Etiquetatge d’imatges, vídeos i àudios generats

Les imatges, els vídeos i els àudios generats per IA s’etiquetaran clarament per evitar la desinformació.

Aquest compromís amplia el principi de comunicació més enllà de les respostes conversacionals i inclou els mitjans generats. L’objectiu és deixar clar que el material s’ha generat amb IA.

El format del resultat no modifica el principi de transparència. Les imatges, els vídeos i els àudios generats per IA estan subjectes al compromís d’etiquetatge clar.

Per tant, combinem el disseny de models per prevenir contingut il·legal o perjudicial amb la identificació del contingut generat quan es presenta.

5. Protecció de dades i seguretat

5.1. Compliment dels requisits de protecció de dades

Komsai compleix plenament el Reglament general de protecció de dades (RGPD) i la normativa de privacitat de dades de tots els mercats on opera.

La protecció de dades forma part del nostre compromís amb el desenvolupament i la implementació responsables de la IA. L’ús de la IA en l’atenció al client es considera juntament amb els requisits aplicables a la informació personal.

Aquest compromís s’aplica juntament amb les disposicions específiques següents sobre conservació de dades personals, xifratge i ciberseguretat.

La protecció de dades i la governança de la IA estan relacionades, però aborden responsabilitats diferents. Aquest apartat tracta de protegir la informació dels usuaris; els altres apartats aborden qüestions com la transparència, l’avaluació de riscos, els continguts generats i la supervisió humana.

5.2. Consentiment explícit per conservar dades personals

No es conserva cap dada personal sense el consentiment explícit de l’usuari.

Aquest és el nostre compromís sobre la conservació d’informació personal en el context de les interaccions amb IA cobertes per aquesta política.

El requisit de consentiment afecta la conservació de dades personals i s’ha de llegir juntament amb el compromís general de complir el RGPD i la normativa de privacitat aplicable.

També s’aplica al costat de la disposició independent segons la qual la IA de Komsai no tracta ni emmagatzema dades biomètriques sensibles.

5.3. Xifratge de les interaccions amb IA

Les interaccions amb IA estan xifrades per protegir la informació dels usuaris.

El xifratge forma part del compromís de seguretat descrit en aquesta política. Protegeix la informació de les interaccions amb IA i complementa els nostres requisits de privacitat de dades.

L’ús de respostes generades per IA no modifica aquest compromís de protegir la informació dels usuaris.

5.4. Estàndards de ciberseguretat

Les interaccions amb IA segueixen estàndards estrictes de ciberseguretat per protegir la informació dels usuaris.

La ciberseguretat i el xifratge són elements complementaris de l’enfocament de seguretat d’aquesta política. En conjunt, protegeixen la informació de les interaccions amb clients basades en IA.

Aquests compromisos de seguretat formen part del nostre enfocament general d’IA responsable, juntament amb la transparència, la gestió ètica dels riscos i la supervisió humana.

6. Monitoratge continu i notificació

6.1. Avaluació contínua del rendiment de la IA

Komsai avalua contínuament el rendiment de la IA.

Aquesta avaluació forma part del nostre enfocament continuat per utilitzar les solucions d’IA de manera responsable. Està relacionada amb els compromisos d’equitat, precisió, seguretat i prevenció de contingut il·legal o perjudicial.

L’avaluació del rendiment s’ha de llegir juntament amb l’avaluació contínua dels riscos inacceptables i les avaluacions d’impacte descrites en aquesta política.

Aquests compromisos aborden aspectes relacionats de l’ús de la IA: rendiment, impacte i risc. En conjunt, formen part del nostre monitoratge de l’atenció al client basada en IA.

6.2. Notificació d’incidents greus

Komsai notifica els incidents greus que exigeix l’AI Act de la UE.

Aquest compromís afecta els requisits de notificació aplicables segons l’AI Act i forma part del nostre enfocament de compliment normatiu i implementació responsable.

La notificació d’incidents greus és diferent de la possibilitat de revisió humana de les reclamacions dels usuaris. La primera es refereix a les notificacions exigides per l’AI Act; la segona, a la revisió de reclamacions sobre decisions de la IA.

Tots dos compromisos formen part d’aquesta política i s’han d’entendre segons les seves finalitats respectives.

6.3. Cooperació en matèria de compliment i estàndards ètics

Treballem amb organismes reguladors i socis del sector per garantir que la nostra IA continuï complint la normativa i els estàndards ètics, que evolucionen contínuament.

Aquesta cooperació forma part del nostre enfocament de compliment continuat. Reflecteix la relació entre el desenvolupament de solucions d’IA i les normes legals i ètiques aplicables al seu ús.

El nostre compromís inclou tenir en compte els requisits canviants, a més de l’avaluació contínua i l’anàlisi de riscos descrites en aquesta política.

El compliment normatiu, els estàndards ètics i el monitoratge del rendiment continuen sent elements relacionats del nostre enfocament d’IA responsable.

7. Suport a la innovació i a una IA responsable

7.1. Disposició a participar en entorns de proves d’IA de la UE

Komsai està disposada a participar en entorns de proves d’IA de la UE per perfeccionar els models abans de desplegar-los.

Aquesta declaració expressa la nostra disposició a participar en aquests entorns per facilitar el perfeccionament dels models abans del desplegament.

L’oportunitat de perfeccionar els models d’IA està relacionada amb els principis d’aquesta política, com ara la seguretat, l’equitat, la precisió i el desenvolupament responsable.

La nostra disposició a participar-hi forma part de l’enfocament de la innovació dins del marc d’una IA responsable.

7.2. Adopció justa i accessible

Komsai promou una adopció justa i accessible de la IA.

Aquest compromís afecta l’adopció de la IA per part de les empreses i està relacionat amb el nostre enfocament general de desenvolupament i implementació responsables.

Considerem la innovació responsable juntament amb la capacitat de les empreses de beneficiar-se de la tecnologia basada en IA. La transparència, l’ús ètic, la protecció de dades i la supervisió humana continuen formant part d’aquest enfocament.

7.3. Empreses de diferents dimensions

Komsai promou l’adopció de tecnologia d’IA que beneficiï empreses de totes les dimensions, incloses les petites i mitjanes empreses i les empreses grans.

El nostre enfocament d’innovació inclou tots aquests grups. Els principis d’aquesta política s’apliquen al nostre compromís amb l’adopció responsable de la IA per part d’empreses de diferents dimensions.

Donar suport a la innovació i mantenir els principis d’una IA responsable són parts relacionades de l’enfocament de Komsai. Ens comprometem a desenvolupar i implementar solucions d’IA dins del marc de transparència, seguretat, no-discriminació, protecció de dades i compliment descrit en aquesta política.