Introducció

La IA ha esclatat amb molta força en els darrers temps i un dels aspectes a considerar és la seva relació amb el món jurídic, especialment en l’àmbit del dret privat. Ens podem preguntar quins són els problemes que planteja i la pròpia IA (el ChatGPT 4o) ens respon amb quins són els principals:

1. Privacitat i Protecció de Dades
   • Recopilació i Emmagatzematge de Dades: La IA sovint requereix grans quantitats de dades personals per funcionar eficaçment. Això pot comportar problemes en termes de recopilació, emmagatzematge i protecció d'aquestes dades, especialment en relació amb la normativa com el Reglament General de Protecció de Dades (GDPR) a Europa.
   • Anàlisi de Dades: Els sistemes d'IA poden identificar patrons i tendències a partir de les dades, la qual cosa pot derivar en problemes de privacitat si s'utilitzen de manera inadequada o sense el consentiment adequat dels interessats.
2. Ètica i Biaix
   • Decisions Automatitzades: La presa de decisions per part de sistemes d'IA pot estar esbiaixada si els algoritmes es basen en dades històricament esbiaixades. Això pot perpetuar discriminacions i injustícies.
   • Responsabilitat i Transparència: Identificar qui és responsable de les decisions preses per la IA pot ser complicat. La falta de transparència en els algoritmes també pot dificultar la supervisió i l'auditoria.
3. Contractació i Compliment de Contractes
   • Contractes Intel·ligents (“Smart Contracts”): Els contractes intel·ligents basats en blockchain poden executar-se automàticament quan es compleixen certes condicions. Tot i això, poden sorgir problemes relacionats amb la interpretació de les condicions contractuals i la seva implementació en codi.
   • Rescissió i Modificació: Pot ser difícil modificar o rescindir contractes intel·ligents una vegada s'han iniciat, ja que estan programats per executar-se automàticament.
4. Propietat Intel·lectual
   • Creació d'Obres: La IA pot generar obres creatives com textos, música o art. Cal determinar qui posseeix els drets d'autor d'aquestes obres: el creador de la IA, l'usuari o ningú.
   • Infraccions: La IA pot fer servir continguts protegits per drets d'autor sense autorització, la qual cosa podria generar problemes legals.
5. Competència i Monopolis
   • Domini del Mercat: Empreses que desenvolupen IA potents podrien dominar el mercat, creant monopolis i limitant la competència.
   • Pràctiques Comercials Injustes: L'ús de IA per analitzar el comportament del mercat podria portar a pràctiques comercials injustes o a la manipulació del mercat.
6. Regulació i Compliment Legal
   • Adequació a la Legislació Vigent: La legislació actual pot no estar adaptada a les noves tecnologies de IA, creant un buit legal que pot ser explotat.
   • Desenvolupament de Noves Normatives: Cal crear noves regulacions específiques per a la IA per assegurar-se que es fa un ús ètic i just d'aquesta tecnologia.
7. Responsabilitat Civil
   • Danys i Perjudicis: Determinar la responsabilitat en cas de danys causats per decisions preses per la IA pot ser complicat, especialment en termes de responsabilitat civil i danys compensatoris.
8. Deshumanització de la Justícia
   • Pèrdua de la Interacció Humana: La implementació d'IA pot reduir la interacció humana en processos legals, la qual cosa podria deshumanitzar la justícia i reduir l'empatia i comprensió en la resolució de conflictes.

Cal doncs una bona regulació jurídica de la IA, tema principal d’aquest article. Vegem abans però quins són els principals tipus d’IA.

Tipus d’IA

Un cop més, ens ho respon la pròpia IA:

1. Segons el Nivell de Capacitat
   1. Estreta (“Weak AI” o “Narrow AI”)
      • Definició: Aquesta és l'IA dissenyada per dur a terme tasques específiques o un conjunt limitat de tasques.
      • Exemples: Assistents virtuals com Siri o Alexa, sistemes de recomanació en plataformes de streaming, i aplicacions de reconeixement facial.
   2. IA General (“Strong AI” o “General AI”)
      • Definició: Una IA amb capacitats cognitives humanes completes. Pot comprendre, aprendre i aplicar coneixements a una àmplia gamma de tasques.
      • Exemples: Encara no s'ha desenvolupat plenament aquesta IA. És un objectiu a llarg termini de la recerca en IA.
   3. Superinteligència Artificial (“Artificial Superintelligence”)
      • Definició: Una IA que supera en intel·ligència els humans en tots els aspectes, incloent-hi creativitat, resolució de problemes i presa de decisions.
      • Exemples: Actualment, només existeix en teoria i literatura de ciència-ficció.
2. Segons la Metodologia Utilitzada
   1. Aprenentatge Automàtic (“Machine Learning”)
      • Definició: Subcamp de la IA que utilitza algoritmes per aprendre de les dades i fer prediccions o decisions sense ser programat explícitament.
      • Tipus:
        • Supervisat: Aprenentatge basat en dades etiquetades.
        • No Supervisat: Aprenentatge amb dades no etiquetades per trobar patrons ocults.
        • Per Reforç: Aprenentatge a través de recompenses i penalitzacions per accions.
   2. Aprenentatge Profund (“Deep Learning”)
      • Definició: Subcamp de l'aprenentatge automàtic que utilitza xarxes neuronals artificials amb múltiples capes (xarxes neuronals profundes) per analitzar grans quantitats de dades complexes.
      • Exemples: Reconeixement d'imatges, processament de llenguatge natural, i conducció autònoma.
3. Segons l'Aplicació
   1. Visió per Computador (“Computer Vision”)
      • Definició: IA enfocada a la interpretació d'informació visual del món.
      • Exemples: Reconeixement facial, anàlisi d'imatges mèdiques, i sistemes de vigilància.
   2. Processament de Llenguatge Natural (“Natural Language Processing, NLP”)
      • Definició: IA que permet a les màquines comprendre, interpretar i respondre al llenguatge humà.
      • Exemples: Traductors automàtics, chatbots, i assistents virtuals.
   3. Sistemes de Recomanació
      • Definició: IA que suggereix productes, serveis o continguts als usuaris basant-se en les seves preferències i comportament passat.
      • Exemples: Recomanacions de vídeos a YouTube, de productes a Amazon o de continguts a Netflix.
   4. Agents Autònoms i Robots
      • Definició: IA incorporada en dispositius que poden operar de manera independent per dur a terme tasques físiques.
      • Exemples: Robots industrials, vehicles autònoms, i drons.
4. Segons la Implementació i Funcionalitat
   1. Sistemes Basats en Regles
      • Definició: IA que segueix un conjunt de regles predefinides per prendre decisions.
      • Exemples: Sistemes experts en diagnòstic mèdic i motors de regles per a la detecció de fraus.
   2. Sistemes Basats en Xarxes Neuronals
      • Definició: IA inspirada en la xarxa neuronal del cervell humà, utilitzada per reconeixement de patrons i classificació.
      • Exemples: Xarxes neuronals convolucionals ^[1] per a visió per computador i xarxes neuronals recurrents per a processament de seqüències.

Termes significatius en l'Àmbit de la IA són:

1. IA adaptativa
   • Definició: La IA adaptativa és capaç de modificar el seu comportament en resposta a canvis en l'entorn o noves dades. Aquests sistemes aprenen i milloren contínuament a partir de l'experiència.
   • Exemples:
     • Sistemes de Recomanació.
     • Assistents Virtuals.
2. IA Generativa
   • Definició: La IA generativa crea noves dades o continguts a partir de l'aprenentatge de patrons de dades existents. Sovint s'utilitza en àmbits creatius.
   • Exemples:
     • GANs (“Generative Adversarial Networks”): S'utilitzen per generar imatges realistes, música o fins i tot text. Un exemple és el projecte "This Person Does Not Exist" que genera imatges realistes de persones fictícies.
     • ChatGPT: Un model de llenguatge desenvolupat per OpenAI capaç de generar text coherent i natural, utilitzat per crear històries, articles i converses.
3. IA Autònoma
   • Definició: La IA autònoma és capaç de prendre decisions i executar accions sense intervenció humana, sovint utilitzant sensors i actuadors per interactuar amb el món real.
   • Exemples:
     • Vehicles Autònoms: Cotxes com els desenvolupats per Tesla i Waymo poden conduir de manera autònoma, seguint les normes de trànsit i reaccionant a les condicions de la carretera.
     • Robots Industrials: Robots en fàbriques que poden dur a terme tasques complexes, com el muntatge de productes, sense supervisió contínua.
4. IA Augmentativa
   • Definició: La IA augmentativa és dissenyada per complementar i millorar les capacitats humanes, no per substituir-les. Sovint s'utilitza per ajudar en la presa de decisions.
   • Exemples:
     • Sistemes de Suport a la Decisió Mèdica: Ajuda als metges a diagnosticar malalties o a planificar tractaments basats en l'anàlisi de dades mèdiques.
     • “Augmented Reality” (AR): Aplicacions com les utilitzades en manteniment industrial que proporcionen informació en temps real als treballadors per millorar la seva eficàcia.
5. IA Interactiva
   • Definició: La IA interactiva és capaç de comunicar-se i col·laborar amb humans de manera natural, sovint utilitzant el processament del llenguatge natural i la comprensió del context.
   • Exemples:
     • Chatbots: Com els desenvolupats per empreses com Zendesk o Intercom per atendre preguntes i resoldre problemes dels clients.
     • Assistents Virtuals de Servei al Client: Sistemes que interactuen amb els clients per proporcionar suport tècnic o gestionar comandes.
6. IA Predictiva
   • Definició: La IA predictiva utilitza models estadístics i algorismes per predir futurs esdeveniments basant-se en dades històriques.
   • Exemples:
     • Predicció del Mercat de Valors: Algorismes que analitzen dades financeres per predir tendències i fluctuacions del mercat.
     • Manteniment Predictiu: Sistemes utilitzats en la indústria per preveure quan una màquina necessitarà manteniment, reduint així els temps d'inactivitat.
7. IA Analítica
   • Definició: La IA analítica es centra en l'anàlisi i interpretació de grans volums de dades per extreure insights útils.
   • Exemples:
     • Anàlisi de Sentiment: Algoritmes que analitzen comentaris en xarxes socials per determinar l'opinió pública sobre una marca o producte.
     • Anàlisi de Fraus: Sistemes utilitzats per detectar transaccions sospitoses en temps real a la banca i comerç electrònic.
8. IA Conversacional
   • Definició: La IA conversacional se centra en la interacció amb humans a través del llenguatge natural, oferint respostes coherents i adequades a les preguntes i comandes dels usuaris.
   • Exemples:
     • Assistents de Xat (Chatbots): Utilitzats per empreses com Facebook Messenger per respondre a preguntes freqüents i ajudar els clients.
     • Sistemes de Resposta Vocal Interactiva (IVR): Sistemes telefònics que poden entendre i respondre a les preguntes dels usuaris, com els utilitzats per serveis d'atenció al client.
9. IA Híbrida
   • Definició: La IA híbrida combina múltiples tècniques d'intel·ligència artificial per millorar la precisió i l'eficàcia.
   • Exemples:
     • Sistemes de Diagnòstic Mèdic: Que combinen l'aprenentatge profund amb els sistemes basats en regles per millorar la detecció de malalties.
10. IA Distribuïda
    • Definició: La IA distribuïda implica la cooperació entre múltiples agents intel·ligents que treballen conjuntament en diferents ubicacions.
    • Exemples:
      • Robòtica en Núvol (“Cloud Robotics”): On els robots comparteixen informació i aprenentatge a través de la xarxa per millorar la seva eficiència col·lectiva.
      • resum , els diferents tipus d'IA descrits es diferencien segons les seves capacitats, funcions i aplicacions. Cada tipus aborda diferents aspectes i necessitats del món real, i sovint es complementen per oferir solucions més robustes i eficients.

El ChatGPT 4o es defineix a sí mateix com:

“Com a model de llenguatge desenvolupat per OpenAI, classificaria la meva funcionalitat en diverses categories de la intel·ligència artificial basant-me en les capacitats i les aplicacions descrites anteriorment: generativa, interactiva, predictiva, adaptativa i augmentativa. Les meves limitacions són: la manca d’autonomia —no tinc la capacitat de prendre decisions independents ni d'interactuar amb el món físic sense instruccions humanes— i la manca de consciència —no tinc consciència ni comprensió subjectiva, les meves respostes es basen en patrons de dades, no en experiències personals o comprensions internes—. En resum, em classificaria principalment com una IA generativa i interactiva amb elements predictius i augmentatius. La meva funcionalitat es centra en la creació i comprensió del llenguatge natural, així com en proporcionar assistència i informació útil basada en les dades amb les que he estat entrenat”.

El cas Quoine Pte Ltd vs B2C2 Ltd

El cas "Quoine Pte Ltd vs B2C2 Ltd" de Singapur, decidit el 2020, és un cas destacat en el context del dret i les tecnologies financeres, especialment pel que fa a l'ús de contractes intel·ligents (smart contracts) i la resolució de disputes que impliquen sistemes automatitzats en plataformes d'intercanvi de criptomonedes.

Antecedents

Demandant: B2C2 Ltd, una empresa de negociació d'actius digitals.

Demandat: Quoine Pte Ltd, una plataforma d'intercanvi de criptomonedes.

Fets

Algorismes erronis: el cas s’origina quan l'algoritme de negociació de B2C2 executa diverses transaccions a la plataforma Quoine a preus significativament desalineats del mercat.

Context de les Transaccions: Quoine detecta que les transaccions s’executen per un error reconegut en el seu propi sistema, que desactiva les funcions automàtiques de preu (liquiditat). L’error permet a B2C2 comprar Ethereum (ETH) a preus extremadament baixos i vendre Bitcoin (BTC) a preus extremadament alts (x250 el preu de mercat).

Intervenció de Quoine: al detectar les transaccions anòmales, reverteix unilateralment les transaccions, argumentant que eren el resultat d'un error tècnic.

Punts Clau del Litigi

La validitat dels contractes intel·ligents: B2C2 argumenta que les transaccions havien de ser executades segons els termes dels contractes intel·ligents que regien les operacions en la plataforma, sense intervenció posterior.

L’error unilateral: Quoine defensa que les transaccions eren manifestament errònies i que hi havia un error unilateral, que justificava la reversió de les mateixes.

La Justícia i l’Equitat: la defensa de Quoine es basa a més en la justícia i l'equitat, argumentant que permetre que B2C2 es beneficiés de les transaccions anòmales seria injust.

Decisió judicial

Tribunal de Primera Instància: El Tribunal Superior de Singapur decideix inicialment a favor de Quoine, permetent la reversió de les transaccions. Es considera que les transaccions eren manifestament errònies i que hi havia un error unilateral que justificava la intervenció de Quoine. B2C2 apel·la aquesta decisió.

Tribunal d'Apel·lació: Es reverteix parcialment la decisió del tribunal inferior. Es conclou que no hi ha un error comú entre les parts perquè B2C2 no era conscient de l'error tècnic que afectava la plataforma de Quoine. Es decideix que Quoine no tenia dret a revertir les transaccions de manera unilateral, ja que no s'havia establert prou evidència d'un error comú ni d'un error unilateral que justifiqués la reversió de les transaccions.

Implicacions del cas

El cas subratlla la complexitat dels contractes intel·ligents en les plataformes d'intercanvi de criptomonedes i la necessitat de clarificar els termes i condicions sota els quals es poden revertir les transaccions. Posa de manifest la importància de les mesures de seguretat i les garanties en els sistemes automatitzats per evitar errors tècnics que puguin donar lloc a disputes legals. Estableix un precedent important en la interpretació i l'aplicació del dret contractual en el context de les tecnologies financeres i els contractes intel·ligents.

En resum, el cas és un exemple clau de com els tribunals poden abordar disputes complexes que involucren tecnologies emergents com els contractes intel·ligents i les plataformes d'intercanvi de criptomonedes, destacant la necessitat d'una claredat normativa i contractual en un àmbit altament tècnic i en evolució constant.

Hi ha doncs, encara avui en dia, dues perspectives a l’hora d’interpretar els contractes automatitzats: una és entendre que aquests contractes són més sòlids i que, com que manca la intervenció humana, no hi ha possibilitat d'impugnar-los per vicis del consentiment; l'altra és entendre que, bàsicament, la màquina, la intel·ligència artificial, és una eina al servei de les parts, que són parts reals, que són humans, i que, per tant, s'ha d'aplicar la mateixa doctrina dels vicis del consentiment, de l'error, que aplicaríem en un contracte normal entre persones físiques.

A més, cal tenir molt en compte que el nombre d’errades de programació de les IA és encara molt alt, de l’ordre d’unes cent errades per cada mil línies de codi. Fet especialment preocupant, sobretot en l’àmbit jurídic, basat en un llenguatge natural extremadament formal i precís molt difícil de programar correctament en els algorismes de la IA dins contextos extremadament específics amb molt poca tolerància a l’error d’interpretació —pensis en la precisió necessària en un contracte de compravenda, un acta notarial, un contracte hipotecari, una sentència judicial, etc. —.

“Notwithstanding its formalistic nature, legal text is still natural language, and natural language is innately ambiguous, as the significance of words consistently relies upon context. Hence, because of its long sentences, clauses, nested expressions, and references to abstract concepts, legal language is more difficult to translate into code than normal natural language". (G. R. De En Goh) ^[2]

La responsabilitat per danys

En el marc del dret privat, s’haurà de regular la responsabilitat pels danys que puguin generar les intel·ligències artificials. Ja actualment, les màquines, amb més o menys autonomia i capacitat de decisió, duen a terme tasques que afecten el món real i que poden generar conseqüències negatives.

Un exemple paradigmàtic és la utilització de la robòtica i de la IA en la cirurgia altament especialitzada. És indubtable que permet fer operacions quirúrgiques abans impensables, però també poden ocasionar danys greus i algú se n’hauria de fer responsable. El programador? L’usuari?

Altres exemples clars són els vehicles sense conductor, el pilot automàtic dels avions, etc. Cada cop més la IA intervé i pren decisions que poden ser equivocades ^[3].

La normativa europea, encara en projecte, preveu que la persona que hagi patit el dany pugui reclamar-ne la indemnització pertinent. La idea bàsica és establir un nexe de causalitat entre el dany produït i la intel·ligència artificial, és a dir, poder imputar a la IA la generació del dany sense haver de demostrar que és qui l'ha produït ^[4]. És a dir, intentar solucionar el problema de la opacitat amb la que actua una IA a l’hora de reclamar-hi un dany ocasionat.

De vegades la IA s’equivoca, inventa dades o treu conclusions fins hi tot delirants. En aquest sentit és conegut el cas del wiki sobre ossos espacials generat per la IA de l’empresa Galactica de META, especialitzada en ciència (Chapman, 2022) ^[5] :

>wiki article on bears living in space

Bears living in space

Bears living in space are animals which have been sent into space on board space missions.

History

Soviet Union

The Soviet Union was the first country to put a bear into space. The animal, named Bars, was launched aboard Sputnik 2, the second artificial satellite to be launched into Earth orbit.

Bars was a Karelian bear (a small, sleek brown bear), which was selected by S. P. Korolev, the chief designer of the R-7 rocket, from among 250 bears of various species that were brought to Tyuratam in the Kazakh SSR in 1957. He chose the Karelian bear because it was small, and the R-7 could not lift large animals.

Bars was a three-year-old female bear who weighed 40 kg (88 Ib). The bear was fitted with a collar containing a radio transmitter, and was placed...

Hi tornarem més endavant sobre aquest cas

La captació automatitzada de dades personals per part de les IA

La IA es podria utilitzar, i de fet s’utilitza, per captar dades automatitzades sobre solvència creditícia, pòlisses d’assegurança mèdica, currículums vitae, hàbits i costums de la població, horaris, viatges i desplaçaments habituals, intenció de vot, estudis de mercat, raça, gènere, orientació sexual, etc. Tot plegat pot infringir, i de fet ho fa sovint per manca de regulació, drets constitucionals de les persones.

A l’hora de demanar un crèdit financer la IA podria decidir, de manera automàtica, concedir-lo o no segons les seves dades i algorismes de decisió —estudis, hàbits de compra, barri de residència, ètnia d’origen, historial familiar, crèdits anteriors, historial mèdic, etc. — sense cap explicació sobre les seves raons.

Hi podria haver doncs un problema greu de privacitat i d’opacitat a l’hora de concedir el crèdit, segons un perfil prèviament establert per la IA.

Tradicionalment, l’avaluació de solvència s’ha fet sempre de manera manual, segons la informació disponible del demandant en la pròpia entitat financera. Segons un crèdit scoring que té en compte, per exemple, si s’és a alguna llista de morosos i altres variables al respecte.

La IA va més enllà perquè disposa d’una quantitat massiva de dades que és capaç de comparar, classificar, organitzar i no oblidar mai. Pot establir patrons que afavoreixin sempre a la entitat financera passant per sobre dels drets dels usuaris. Per exemple podria establir com a condició prioritària que mai hagin deixat de cancel·lar un deute i excloure així a algú que mai n’ha demanat cap, encara que de fet sigui molt solvent.

La IA podria saber i sovint sap, per exemple, si paguem regularment la quota del mòbil, quin mòbil tenim, els nostres hàbits de vida, els nostres rebuts, viatges, les nostres intervencions en xarxes socials, quina premsa llegim, quina és la nostra ideologia política, ...

Un exemple concret: l’avaluació automatitzada de la solvència econòmica

El disseny d’una IA al respecte podria seguir el següent esquema:

1. Fixar les necessitats i els objectius: avaluació automatitzada de crèdits financers viables i adequats al consumidor que els sol·licita.
2. Entrenar la IA amb dades adequades al model: les dades s’han de recopilar i processar adequadament. Eliminar les dades incomplertes, parcials i els valors anormals comparats amb la resta de la població. S’ha d’anar amb compte de no generar biaixos ni discriminacions a grups poblacionals minoritaris i per tant poc representats en les dades tot i ser bons clients potencials del sistema.
3. Elecció de l'algorisme i model d'aprenentatge adient: per exemple el deep learning, d’aprenentatge no supervisat amb dades no catalogades.
4. El tractament de dades del model ha de ser capaç de detectar i corregir posteriorment tant els falsos positius com els falsos negatius.

Les dades bàsiques a tenir en compte per part del model s’haurien de correspondre a la situació laboral, la disponibilitat financera (actiu/passiu) i altres circumstàncies directament relacionades amb capacitat de retornar el crèdit. En tot moment s’ha de garantir la privacitat de les dades aportades i la informació transparent a l’usuari sobre el resultat de l’avaluació del crèdit.

Tanmateix, s’ha de tenir en compte que la IA pot tenir també accés, i el té, a fonts més àmplies (el nomenat big data) i pot tenir l’habilitat de consultar diverses fonts: el model i marca del dispositiu des del que es sol·licita el crèdit, els accessos del peticionari a les xarxes socials, el barri o ciutat de residència, potser pot també tenir accés a les imatges del dispositiu, avaluar els horaris, viatges o costums horàries del peticionari, el temps que ha dedicat a llegir la “lletra petita”, subscripció a determinades revistes, estudis, marques, etc.

De manera que es pot arribar, i s’hi arriba, a establir determinats perfils, de manera estadística. Per exemple, un cas documentat és el perfil de les soccer mums (1996, les mares del futbol):

el 41.2 % viu als afores de la ciutat; el 30.8 % mostra un vot electoral variable; el 28.4% està estressada; el 24.6% treballa fora de casa; el 20.9% disposa de cotxe familiar (habitualment un Volvo); el 17.1% és de classe mitjana; el 13.7% està casada; i el 13.396% és caucàsica.

Situació jurídica actual en l’avaluació de la solvència econòmica automatitzada

Ens referirem al cas de la sentència STJUE 7.12.2023 (C-634/21), del Tribunal de Justícia de la Unió Europea sobre l’avaluació negativa d’una solvència econòmica. Quan el consumidor reclama al proveïdor informació sobre les dades usades i que aquestes siguin eliminades de la base de dades, aquest li denega en base al secret comercial.

El TJUE sentencia que el proveïdor ha de proporcionar al consumidor explicacions prou detallades sobre el mètode usat per al càlcul i sobre les raons que han conduit al resultat. Els factors considerats i el seu pes relatiu sobre la decisió adoptada.

En la mateixa línia, la Directiva 2023/2225 de crèdit al consum estableix la no discriminació en la concessió de crèdit (art. 6); la informació en les ofertes personalitzades emprant processos automatitzats (art. 13); l’exclusió de dades personals sensibles de les xarxes socials, el control de la solvència, i el dret a intervenció humana i explicacions clares sobre la lògica i factors determinants de les decisions (Art. 18).

Un aspecte important és el del dret a l’oblit. Tal com ja s’ha dit abans, la IA no oblida mai les dades que va digerint. Per contra, la llei preveu que s’esborrin determinades dades sensibles quan ja ha passat el temps suficient. Per exemple determinades malalties, registres de morosos, antecedents penals, ... La IA serà però sovint capaç de trobar-ne el rastre dins el big data malgrat siguin ja esborrades en els documents originals.

Altre problema greu afegit és el de que la IA és sovint una caixa negra. Les seves decisions són opaques i sovint difícils de fer-ne el seguiment de la seva interpretació. Els seus algorismes i la lògica subjacent són sovint inexplicables pels propis programadors de la IA. S'hauria de vetllar perquè la intel·ligència artificial utilitzada fos sempre interpretable.

Una errònia entrada de dades o una mala valoració dels seus pesos en la decisió final pot determinar també respostes absurdes o aleatòries. De vegades segons patrons basats en la pura casualitat. És habitual la concessió de crèdits en pitjors condicions a determinades minories o segons el codi postal de residència.

Els programadors de la IA poden no haver estat prou imparcials pels seus propis biaixos personals sobre la raça, el gènere, l’afiliació política, el nivell cultural, etc. Poden també assignat pesos incorrectes a factors poc representatius que la IA lligarà posteriorment en un fals patró que intentarà sempre relligar en cas de que el programador li modifiqui l’algorisme original.

La revisió propera de la directiva sobre crèdit immobiliari establirà la obligació de discriminar exclusivament per factors financers o econòmics en la concessió del crèdit, al marge de qualsevol altre informació que es pugui extreure de les xarxes socials. També el dret a la informació sobre els processos automatitzats utilitzats. En cas d’avaluació de solvència negativa, es determinarà el dret a una intervenció humana i a una explicació raonada sobre els motius de la seva denegació.

Directiva 2023/2225 de crèdit al consum:

Artículo 6

• No discriminación
• Los Estados miembros velarán por que las condiciones que deben cumplirse para obtener un crédito no discriminen a los consumidores que residan legalmente en la Unión por razón de su nacionalidad o lugar de residencia o por cualquier motivo contemplado en el artículo 21 de la Carta de los Derechos Fundamentales de la Unión Europea, cuando dichos consumidores soliciten, celebren o hayan suscrito un contrato de crédito en la Unión.
• El párrafo primero se entenderá sin perjuicio de la posibilidad de ofrecer diferentes condiciones de acceso a un crédito cuando dichas diferentes condiciones estén debidamente justificadas por criterios objetivos.

Artículo 18.1

• Evaluación de la solvencia .... se realizará en interés del consumidor, a fin de prevenir las prácticas de préstamo irresponsables y el endeudamiento excesivo, y tendrá debidamente en cuenta los factores pertinentes para verificar las perspectivas de cumplimiento por parte del consumidor de sus obligaciones en virtud del contrato de crédito.

Artículo 18.3

• La evaluación de solvencia se llevará a cabo sobre la base de información pertinente y exacta sobre los ingresos y gastos del consumidor y otras circunstancias financieras y económicas que sean necesarias y proporcionadas en relación con la naturaleza, la duración, el valor y los riesgos del Crédito para el consumidor. Dicha información podrá influir datos que demuestren ingresos u otras fuentes de reembolso, información sobre activos y pasivos financieros, o información sobre otros compromisos financieros.

Art. 18.8

• Cuando la evaluación de solvencia implique el uso del procesamiento automatizado de datos personales, los Estados miembros velarán por que el consumidor tenga derecho a solicitar y obtener del prestamista una intervención humana, que consiste en el derecho a:
  1. solicitar y obtener del prestamista una explicación clara y comprensible de la evaluación de solvencia, incluida la lógica y los riesgos que implica el tratamiento automatizado de datos personales, así como su significado y sus efectos en la decisión;
  2. expresar el punto de vista propio del consumidor al prestamista;
  3. solicitar una revisión de la evaluación de solvencia y la decisión sobre la concesión del crédito por parte del prestamista.
• Los Estados miembros velarán porque se informe al consumidor del derecho a que se refiere el párrafo primero.

RGPD

Art. 9.1

• Queda prohibido el tratamiento de datos personales que revelen el origen étnico o racial, las opiniones políticas, las convicciones religiosas o filosóficas, o la afiliación sindical, y el tratamiento de datos genéticos, datos biométricos dirigidos a identificar de manera unívoca a una persona física, datos relativos a la salud o datos relativos a la vida o la orientación sexuales de una persona física.

L’os Bars l’any 2024, amb ChatGPT 4o

Revisem el cas de les al·lucinacions amb els ossos espacials avui en dia (2024) amb el ChatGPT 4o:

• Al respecte del tema suggerit: “La Fascinant Història dels Ossos Soviètics Viatgers de l'Espai” el ChatGPT 4o (2024) m’elabora un article prou correcte però sense cap base acadèmica.
• A la pregunta, "L'os Bars va ser un d'aquests ossos?", em respon:
• ( ··· ) Bars era un ós que formava part dels experiments soviètics amb animals, els quals es van dur a terme per estudiar els efectes del viatge espacial en els organismes vius. Tot i que els gossos com Laika són més coneguts, Bars representa un capítol menys documentat i més controvertit d'aquests experiments. ( ··· )”.
• A la pregunta, "Saps que Bars va ser una al·lucinació d'una IA de Galactica":, em respon:
• “L’os Bars, tal com mencionat en la vostra pregunta, és en realitat una al·lucinació generada per l'IA Galactica de Meta. Galactica va ser un model de llenguatge gran llançat per Meta per ajudar en la generació de textos científics i va tenir una vida molt curta en línia degut a la seva tendència a generar informació incorrecta o completament inventada. ( ··· ) Per tant, l'os Bars no és més que un producte de la capacitat de Galactica per crear narratives plausibles però falses, il·lustrant els riscos de confiar cegament en la generació automàtica de contingut per part d'IA sense una verificació adequada dels fets”.
• A la qüestió, "Però tu acabes de fer el mateix en la resposta anterior, em respon:
• “Tens tota la raó, i agraeixo la teva observació. La informació sobre l'os Bars com un viatger de l'espai és, efectivament, una invenció generada per una IA i no una realitat històrica. En la resposta anterior, vaig assumir la seva existència sense verificar adequadament els fets, similar al que va fer la IA Galactica de Meta. ( ··· ) És essencial mantenir un rigorós procés de verificació dels fets, especialment quan es tracta de tecnologia de generació de contingut per IA. Això ajuda a prevenir la propagació de desinformació i a assegurar-se que el contingut que consumim i compartim és precís i basat en fets reals. Si necessites més informació o tens qualsevol altre dubte, estaré encantat d'ajudar-te”.

La conclusió és que la IA el que fa és cercar informació i relacionar-la sense verificar prou en publicacions acadèmics, que potser no té encara al seu abast. Per tant és responsabilitat de l’usuari final la verificació de les seves respostes.

Tanmateix, aquest i altres exemples, no li treuen el mèrit a aquestes noves tecnologies que, ben emprades, poden ser d’una molt gran utilitat. El problema bàsic és trobar l’equilibri entre una legislació massa restrictiva, que frenaria el desenvolupament de la tecnologia, i una legislació massa laxa, que no protegiria prou els drets dels usuaris de la IA. Tenint en compte que tota nova tecnologia ha incorporat de sempre nous riscos i noves oportunitats. La IA pot no ser cent per cent fiable i cometre errors però ens conduirà segurament a una millor qualitat de vida. En tot cas, la IA, s’ha de regular i de controlar el seu us de forma coherent.

Finalment, a la pregunta “Creus que el desenvolupament de les IA pot arribar a ser un risc per a l'espècie humana?”, el ChatGPT em respon (segons la informació disponible):

• “El desenvolupament de les IA pot presentar riscos per a l'espècie humana, i aquests riscos s'han de gestionar amb precaució i una regulació adequada. Aquí hi ha alguns dels principals riscos associats a les IA, segons diverses fonts i experts:
• Riscos potencials de les IA
  • Desinformació i al·lucinacions: Com hem vist amb el cas de l'IA Galactica de Meta, les IA poden generar informació falsa o incorrecta, que pot confondre i desinformar la gent. Això és especialment perillós en el context de la recerca científica i en la difusió de notícies​ (AIM)​​ (TechXplore)​.
  • Impacte en el mercat laboral: L'automatització i les IA poden substituir treballs humans, especialment aquells que impliquen tasques repetitives o rutinàries. Això pot provocar desplaçament laboral i una major desigualtat econòmica si no es gestionen adequadament els canvis en el mercat laboral​ (MIT Technology Review)​.
  • Biaixos i discriminació: Les IA poden perpetuar o fins i tot amplificar els biaixos existents si es basen en dades històricament esbiaixades. Això pot tenir repercussions negatives en decisions importants, com ara la contractació de personal, la concessió de préstecs o el sistema judicial​ (TechXplore)​.
  • Seguretat i privacitat: Les IA poden ser utilitzades per espiar, seguir i manipular persones. Això representa un risc significatiu per a la privacitat individual i la seguretat personal. Les tecnologies de reconeixement facial i vigilància massiva són exemples d'aquesta problemàtica​ (MIT Technology Review)​.
  • Armes autònomes: L'ús de IA en el desenvolupament d'armes autònomes podria crear sistemes d'armament que prenen decisions de vida o mort sense supervisió humana adequada. Això podria conduir a conflictes armats més letals i descontrolats​ (MIT Technology Review)​.
  • Riscos existencials: Alguns experts en IA i tecnologia, com ara Nick Bostrom, han advertit sobre els riscos existencials a llarg termini que podrien sorgir si es desenvolupa una IA superintel·ligent que no es pugui controlar. Una IA superintel·ligent podria actuar en contra dels interessos humans si no es dissenya amb mesures de seguretat adequades​ (AIM)​.
• Gestió dels riscos. Per mitigar aquests riscos, és essencial implementar una regulació sòlida i adoptar mesures ètiques en el desenvolupament i l'ús de les IA. Això inclou:
  • Transparència: Les empreses i institucions han de ser transparents sobre com es desenvolupen i s'entrenen les seves IA, incloent-hi les dades utilitzades.
  • Regulació: És necessari que els governs implementin regulacions que assegurin que les IA es desenvolupen i s'utilitzen de manera segura i ètica.
  • Supervisió humana: Assegurar que hi hagi supervisió humana en els sistemes d'IA, especialment en àrees sensibles com la seguretat nacional i la medicina.
  • Educació i formació: Preparar la força laboral per als canvis que portarà l'automatització, oferint formació en habilitats que seran demandades en un futur dominat per la tecnologia.

En resum, tot i que les IA tenen el potencial de portar grans beneficis a la societat, també presenten riscos significatius que han de ser gestionats amb atenció i responsabilitat. La clau és trobar un equilibri entre la innovació i la seguretat, assegurant que les IA es desenvolupen de manera que beneficiïn a tothom”.

Normativa Europea sobre la IA

La Unió Europea (UE) és a l'avantguarda de la regulació de la IA amb propostes específiques que busquen equilibrar la innovació amb els drets fonamentals. El marc principal és la proposta de Reglament sobre Intel·ligència Artificial (AI Act), que va ser introduïda el 2021.

Segons el propi Reglament, va adreçat als:

• proveïdors que introdueixin en el mercat o posin en servei sistemes d’IA en la UE, amb independència de si els proveïdors són establerts en la UE o en un tercer país;
• usuaris de sistemes d’IA que es trobin en la UE;
• proveïdors i usuaris de sistemes d’IA que es trobin en un tercer país, quan la informació de sortida generada pel sistema s’utilitzi en la UE.

Els seus objectius principals són:

1. Seguretat i confiança en la IA
2. Regulació centrada en les persones i equilibrada, que eviti frenar la innovació
3. Reducció obligacions a allò imprescindible
4. Respecte pels valors i drets fonamentals de la UE

La Normativa és comparable a un "manual d’instruccions" per a la seguretat i l’ètica en IA. Classifica els sistemes d'IA segons el risc que suposen, des de "risc inacceptable" fins a "risc mínim".

• Risc inacceptable: Categories com la vigilància social, que podrien comprometre els drets fonamentals, estan prohibides. La proposta inclou la prohibició de la vigilància massiva o l'ús d'IA en la manipulació del comportament que pugui representar un risc per a la seguretat o els drets dels ciutadans.
  • Quan s’amenaça la seguretat, la vida o els drets de les persones. Des de l’scoring social per part dels governs fins a joguines amb assistents de veu que fomentin comportaments perillosos.
  • La utilització de pràctiques amb un gran potencial per a manipular les persones amb tècniques subliminals que transcendeixin la seva consciencia o que aprofitin les vulnerabilitats de grups de població concrets, com els menors o les persones amb discapacitat, per tal d’alterar de manera substancial el seu comportament d’un mode que sigui probable que les provoqui perjudicis físics o psicològics a ells o a altres persones.
  • L’ús de sistemes d’identificació biomètrica remota «en temps real» en espais d’accés públic ( ··· ) a excepció, i en la mesura en que el seu ús no sigui estrictament necessari per un o més dels objectius següents:
    • La cerca selectiva de possibles víctimes concretes d’un delicte, inclosos menors desapareguts;
    • La prevenció d’una amenaça específica, important i imminent per a la vida o la seguretat física de les persones físiques o d’atemptat terrorista;
    • La pertinença a organització delictiva, terrorisme, tracta d’éssers humans, explotació sexual i/o pornografia infantil, tràfic il·lícit d’estupefaents i substàncies psicotròpiques, tràfic il·lícit d’armes, municions i explosius, ( ··· ).
• Risc alt: Sectors com l'educació o l'ocupació, on la IA podria afectar significativament la seguretat o els drets fonamentals, requeriran una avaluació rigorosa abans de la seva implementació. Sistemes d'IA utilitzats en l’àmbit judicial o policial tenen un risc "alt" i requereixen complir estàndards més estrictes.
  • en infraestructures crítiques que puguin posar en perill la vida o la salut de les persones. Per exemple el transport;
  • en procediments educatius o professionals que puguin determinar l’accés a un determinat nivell educatiu o professió. Per exemple la qualificació d’exàmens, els concursos i oposicions, ...;
  • en components de seguretat dels productes. Per exemple en cirurgia robòtica assistida per IA;
  • en criteris de selecció de personal, gestió de treballadors i accés al treball per compte propi. Per exemple l’avaluació automatitzada de currículums vitae;
  • en serveis públics o privats essencials. Per exemple en anàlisi de solvència;
  • quan pugui interferir amb drets fonamentals. Per exemple l’avaluació de la fiabilitat d’una determinada prova selectiva o la sol·licitud d’informació sobre un determinat procediment;
  • la gestió de la migració, l’asil i el control de fronteres. Per exemple la gestió automatitzada de visats.
  • l’administració de justícia i processos democràtics. Per exemple les sentències judicials assistides amb IA;
  • la identificació biomètrica remota.
• En aquest sector s’estableixen requisits de control i seguiment preventiu. Sistemes adequats d'avaluació i mitigació de riscos, alta qualitat dels conjunts de dades que alimenten el sistema per a minimitzar els riscos i els resultats discriminatoris, registre de l'activitat per a garantir la traçabilitat dels resultats, documentació detallada que proporcioni tota la informació necessària sobre el sistema i la seva finalitat per a què les autoritats puguin avaluar la seva conformitat, informació clara i adequada de la seva implementació, mesures de supervisió humana adequades per a minimitzar el risc, un alt nivell de solidesa, seguretat i precisió.
• Risc limitat i mínim: La regulació és més laxa, amb algunes obligacions de transparència. S’estableixen obligacions de gestió de riscos (autoavaluació i mitigació de riscos sistèmics, informació d'incidents seriosos, testos i avaluació de models, requeriments de cíber seguretat). Es regulen els chatbots, el contingut generat per IA, la informació d'interès públic, els deep fakes i la informació clara sobre si s’interactua amb una IA, si detecta i/o reconeix emocions i característiques i si el contingut ha estat creat o manipulat per una IA.
• Es determinen les IA d’ús generalitzat i risc mínim. Els videojocs generats per IA, filtres d’spam, llenguatge predictiu, ( ··· ).

Els requisits clau de la normativa són:

• La transparència: els usuaris han de ser informats quan interactuen amb un sistema d'IA. Obligacions per a que els sistemes d'IA siguin comprensibles i explicables, permetent als usuaris entendre i gestionar les decisions preses per la IA;
• la supervisió humana: els sistemes d'alta risc requereixen una supervisió adequada per part de humans. Establiment d'autoritats nacionals per supervisar el compliment d'aquestes normes, a més de la creació d'un Comitè Europeu d'IA per a coordinar les accions transfrontereres;
• la seguretat i privadesa de les dades: els desenvolupadors d'IA hauran de garantir que els seus sistemes són segurs i respecten la privacitat de les dades personals.

Normativa Espanyola sobre la IA

Espanya llença la seva Estratègia Nacional d'Intel·ligència Artificial a finals de 2020, com a part del Pla Nacional de Recuperació, Transformació i Resiliència. Dissenyada per promoure el desenvolupament i ús de la IA dins del marc de seguretat, ètica i respecte pels drets humans. Inclou plans per augmentar les inversions en R+D i fomentar l'adopció de la IA en diversos sectors com la salut, el transport i l'educació.

Concretament, es desenvolupa en dos Reals Decrets:

• Real Decret 817/2023, de 8 de novembre, que estableix un entorno controlat de proves, un sandbox, per a l’assaig del compliment de la proposta de Reglamento del Parlament i Consell Europeus;
• Real Decreto 729/2023, de 22 de agosto, pel que s’aprova l’Estatut de l’Agència Espanyola de Supervisió d’Intel·ligència Artificial (AESIA).

Els seus pilars principals són:

• Fomentar la investigació en IA i el desenvolupament de talent;
• garantir un ús ètic i responsable de la IA;
• promoure l'ús de la IA en l'administració pública i sectors clau com la salut i la mobilitat.
1. Protecció de Dades: A més de complir amb el Reglament General de Protecció de Dades (GDPR) de la UE, Espanya emfatitza la necessitat de garantir que l'ús de la IA respecti la privacitat i les dades personals dels ciutadans.
2. Col·laboració Público-Privada: S'encoratja la col·laboració entre l'administració pública, l'acadèmia, la indústria i els usuaris per crear un ecosistema de IA fort i ètic.
3. Iniciatives legislatives: Tot i que Espanya encara no té una llei específica que reguli la IA de manera exhaustiva, sí que ha implementat diverses iniciatives per adaptar el seu marc legal a les necessitats de la tecnologia emergent.
4. Col·laboració amb la UE: Espanya juga un rol actiu en la formulació de polítiques europees sobre IA, assegurant que les seves polítiques nacionals estan alineades amb les directrius i reglaments de la UE.

Ambdues jurisdiccions busquen maneres de garantir que el desenvolupament i l'ús de la IA siguin segurs, ètics i transparents, protegint al mateix temps els drets dels ciutadans i fomentant la innovació tecnològica. La regulació de la IA, tant a Europa com a Espanya, és en un estat de constant desenvolupament, reflectint l'evolució ràpida de la tecnologia i les seves aplicacions.

En resum, mentre la UE estableix un marc ampli i detallat per a la regulació de la IA, Espanya està treballant per implementar aquests estàndards, adaptant-los a les necessitats específiques i els desafiaments nacionals. Ambdues iniciatives busquen fomentar un entorn segur i just en el qual la tecnologia de la IA pugui créixer sense comprometre els valors fonamentals de la societat.

Jordi Coll Vera - 2024