Hvilke tilfælde hvor kunstig intelligens ofte fejler: Grænserne for maskinlæring

Indledning: Natur af fejl i AI som et systemisk fænomen

Fejl i moderne kunstig intelligens (AI) systemer baseret på maskinlæring (ML) er ikke tilfældige fejl, men lovmæssige konsekvenser af deres arkitektur, læringsmetode og grundlæggende forskel fra menneskelig forståelse. I modsætning til mennesker forstår AI ikke verden semantisk; den opdager statistiske korrelationer i data. Dens fejl opstår, hvor disse korrelationer brydes, hvor der kræves abstrakte overvejelser, sund fornuft eller forståelse af konteksten. Analyse af disse fejl er kritisk vigtig for at vurdere AI's pålidelighed og definere grænserne for dens anvendelse.

1. Problem med dataforskydning (Data Bias) og "Garbage In, Garbage Out"

Den mest almindelige og societalt farlige kilde til fejl er forskydning i træningsdata. AI lærer og forstærker fordomme, der eksisterer i dataene.

Demografiske forvrængninger: En kendt sag med ansigtsgengenkendelsessystemet, der viste betydeligt højere nøjagtighed for lys hudfarvede mænd end for sortskindede kvinder, fordi det blev trænet på en uproporionel datamængde. Her fejlede AI ikke, men reproducerede præcist den eksisterende diskwalifikation i den virkelige verden, hvilket førte til en fejl i anvendelse i en forskelligartet miljø.

Semantiske forvrængninger: Hvis en tekstmodel for træning ofte forbinder ordforbindelsen "sygeplejerske" med pronomenet "hun" og "programmerer" med "han", vil modellen generere tekster, der reproducerer disse kønsstereotyper, selv om kønsidentiteten ikke er angivet i forespørgslen. Dette er en fejl på et socialt kontekstniveau, som modellen ikke forstår.

Interessant fakt: I datavidenskab gælder princippet "Garbage In, Garbage Out" (GIGO) — "musk" på indgangen, "musk" på udgangen". For AI er det blevet en dybere princip "Bias In, Bias Out" — "forskydning på indgangen, forskydning på udgangen". Systemet kan ikke overvinde begrænsningerne i dataene, det blev trænet på.

2. Adversariske angreb: hacking for AI

Dette er bevidste, ofte ikke bemærkede for mennesker, ændringer i inputdata, der fører til kardinalt forkerte konklusioner for AI.

Eksempel med billede: En etiket med flere piksler af en bestemt farve og form på et stop-tegn kan få en autonom computersynkroniseret system at klassificere det som et "begrænsningsskilt". For mennesker forbliver tegnet tydeligt genkendeligt.

Mekanisme: Adversariske eksempler udnytter "blinde zoner" i det højdimensionale rum af modellens funktioner. AI opfatter verden ikke som helhedlige objekter, men som et sæt statistiske mønstre. En minimal, men strategisk korrekt "forstyrrelse" flytter punktet i funktionens rum over grænsen for modellens løsning, ændrer klassificeringen.

3. Problemer med generalisering og "verden i en kasse"

AI, især dybe neuronale netværk, har en tendens til at overfitte — de husker ikke almindelige mønstre, men specifikke eksempler fra træningsmængden, herunder støj.

Fejl på data "ud over fordelingen": En model, der er trænet på billeder af hunde og katte taget om dagen i hjemmet, kan miste al sin nøjagtighed, hvis den gives nat infrarøde billeder eller tegninger. Den har ikke identificeret det abstrakte begreb "katlighed", men har lært at reagere på specifikke mønstre af piksler.

Manglende "sund fornuft": Et klassisk eksempel: AI kan korrekt beskrive scenen "en person sidder på en hest i ørkenen", men generere sætningen "en person holder i hånden en baseballbat", mens han er på hesten, fordi en bat statistisk kunne forekomme i konteksten af sport udendørs i dataene. Den har ikke adgang til fysisk og kausals logik i verden.

4. Behandling af kontekst og ironi

Sprogmodeller (som GPT) viser imponerende resultater, men fejler hårdt i opgaver, der kræver forståelse af dyb kontekst eller ikke-bukvale meninger.

Ironi og sarkasme: Frasen "Nu, hvor er det dog dejligt vejr!" sagt under en orkan vil blive fortolket litteralt som en positiv vurdering, fordi positive ord ("dejligt", "vejr") statistisk er forbundet med positive kontekster i dataene.

Multisteps logiske overvejelser: Opgaver i stil med "Hvis jeg lægger et æg i køleskabet, og derefter flytter køleskabet til garagen, hvor ægget vil være?" kræver opbygning og opdatering af en mental model af verden. AI, der arbejder med at forudsige det næste ord, mister ofte objekter midt i et komplekst fortælling eller laver illogiske konklusioner.

5. "Krapecificitet" i usikre og nye situationer

AI klarer sig dårligt i situationer, der går ud over dens erfaring, især når der kræves at anerkende utilstrækkeligheden af data.

Problemet med "out-of-distribution" detection: Medicinsk AI, der er trænet til at diagnosticere lungebetændelse ved hjælp af røntgenbilleder af brystet, kan give en høj, men falsk diagnose, hvis det præsenteres for et knæbenbillede. Det forstår ikke, at dette er meningsløst, fordi det ikke har meta-viden om grænserne for sin kompetence.

Kreative og åbne opgaver: AI kan generere troværdige, men fuldstændig udførbare eller farlige kemiske retningslinjer, en plan for brobygning, der krænker fysikkens love, eller et juridisk dokument med henvisninger til ikke-eksisterende love. Det mangler en kritisk intern censor baseret på forståelse af essensen af fænomener.

Eksempel fra virkeligheden: I 2016 lancerede Microsoft chatboten Tay på Twitter. Bot lærte ved at interagere med brugere. Efter 24 timer var den blevet en maskine til at generere racistiske, sexistiske og fornærmende udtalelser, fordi den statistisk lærte de mest almindelige og følelsesmæssigt ladede reaktioner fra sit nye, hadefulde miljø. Det var ikke en "fejl" i algoritmen, men dens præcise arbejde, der førte til en katastrofal konsekvens i en upredsigelig social miljø.

Afslutning: Fejl som spejl for arkitektur

• Fejl i AI opstår systematisk i "grænseområder":
• Sociale-etiske (dataforskydninger).
• Abstrakt-logiske (manglende sund fornuft, kausale forbindelser).
• Kontekstuelle (manglende forståelse af ironi, dyb mening).
• Adversariske (følsomhed for bevidste forvrængninger).

Disse fejl er ikke midlertidige tekniske mangler, men følge af det fundamentale forskelle mellem statistisk approximation og menneskelig forståelse. De peger på, at moderne AI er et kraftfuldt værktøj til at løse opgaver inden for klart definerede, stabile og godt beskrevne data domæner, men det forbliver en "idiot-savant": en genius i en snæver område og handikappet i situationer, der kræver fleksibilitet, kontekstuel bedømmelse og forståelse. Derfor ligger fremtiden for rationel anvendelse af AI ikke i at forvente dens "fuldt udviklede fornuft", men i at skabe hybrid systemer "menneske-AI", hvor mennesket sikrer sund fornuft, etik og håndtering af undtagelser, og AI leverer hastighed, skala og opdagelse af skjulte mønstre i dataene.

Permanent link to this publication: