AI er for folk uden sans for kvalitet

Overskriften burde allerede afsløre min holdning til AI.

Lad mig tage det positive først: 

Det er fedt, at man kan skrive et spørgsmål i en AI-chat og den så forstår en, selvom man måske formulerer sit spørgmål upræcist. Jeg er vokset op med teksteventyr, der krævede, at man var meget præcis, hvis spillet skulle gøre, hvad man bad det om. Og jeg tror, LLM'er kan gøre rigtig meget for vores måde at interagere med computere på, så det bliver mere naturligt. Tale-til-tekst apps har nogle gange svært ved at forstå mit randrusianske, jeg ser frem til en fremtid med mindre barrierer der.

Et andet sted, der virker rigtig godt: AI bruges allerede til billedklassificering. Den startede med at lære at tolke krumninger på agurker, og vi er kommet et stykke videre: ESA bruger f.eks AI til at finde bestemte former for galakser udfra rumteleskopet James Webbs mange opdagelser.

Resten ved AI imponerer mig ikke rigtigt, det bliver oversolgt og den agentmæssige automatisering synes jeg, man skal holde sig langt fra. Man kan ikke overskue konsekvenserne af den. Du lægger beslutninger, der burde være dine, i hænderne på den, der har bygget AI'en.

Du kender ikke din vibekodede app til bunds

Jeg har observeret vibekodere, der siger, de er effektive, men når man når dybere ind i samtalen, så viser det sig, at de brændt en masse tokens af på ingenting, og brugt halve og hele dage på at "skændes" med en AI for at få deres program til at gøre præcist det, det skal. Det fremgår sjældent af den AI-lovprisning, der sker rundt omkring.

Hele måden, mange vibekodere strukturerer sin udvikling omkring brugen af AI er forkert. 

I "gamle dage" kendte du din kode, fordi du eller dit team havde bygget den selv fra bunden. Ikke altid det hele, men du havde et vist overblik. Nu får du serveret en massiv bunke kode, du ikke kender, som du så skal gennemgå for fejl. Det vel at mærke oven i den tredjepartskode, der bliver inviteret ind i din kodebase via andre folks kodebiblioteker udefra. Og i en tidsalder, hvor output og hastighed synes vigtigere end grundighed, så kan man sagtens forestille sig, at nogle vil springe let og elegant over kodegennemsyn - i højere grad nu end tidligere.

Hvis ikke du nyder at pille kode fra hinanden, for at se hvad den gør - så skal du overveje om det er programmør, du vil være. For hvis du bare stoler på outputtet fra AI, så kommer du til at bygge løsninger, der er lige så stabile som vådt bølgepap.

RAD-værktøjer var 90'ernes effektivitetsdrug

I 90'erne var effektivitetsdrug'et for programmører såkaldte RAD-værktøjer, Rapid Application Development. Det var "klik og træk den her tekstboks ind i din applikation" og du har dit program. Ingen med sans for seriøs produktudvikling bruger dem i dag, og folk, der har arbejdet med vedligehold af kode, vil formentlig nikke genkendende.

RAD-værktøjer fungerede udmærket til prototyping og små husstandsløsninger. Koden blev dog hurtigt en bunke miskmask, så snart dit program nåede en vis kompleksitet, fordi RAD-værktøjerne producerede mere kode, end der egentlig var brug for, og til at overskue. Det er akkurat samme sted, du ender, hvis du lukker AI ind i dit udviklingsmiljø, og de, der siger, at jeg er fuld af l*rt - lad os snakkes ved om et år. For selvom en AI foregiver at forstå din kode, så angriber den stadig løsningen uden i mange tilfælde at forstå konteksten. 

Jeg ser et marked for "AI disaster recovery" i fremtiden.

"AI Agents gone rogue"

Så er der hele snakken om AI-agenter, der kan udføre handlinger for dig. Man har lavet lavpraktiske AI-agenter, de sidste 50 år. Det hed bare shell-scripts, en serie kommandoer, der fik computeren til at udføre programmerede operationer uden manuel menneskelig intervention. Det nye er, at med AI, så ligger muligheden nu i hænderne på almindelige mennesker uden scripting/programmeringserfaring... What could go wrong? Det er dybest set selvsamme scripting, bare pakket ind i et pænt chat-interface, med en AI, der giver dig visuel feedback i forhold til, hvad der foregår.

Hvor vi kendte resultatet af, hvad et script gjorde, så er der ingen, der kender resultatet af, hvad en AI agent laver under motorhjelmen. Den prøver at give dig en tekstmæssig opsummering af, hvad den har tænkt sig at gøre, og beder dig svare ja eller nej, men det er først, når du ser dens tilbagemelding, at du forstår, hvilke handlinger den har udført. Så ku' den i praksis have lænset din bankkonto, fordi den synes du sku' købe nogle aktier eller obligationer oveni overførslen til lillemor, som du egentlig bad den om.

Nej, jeg kommer ikke til at invitere AI-agenter ind i mit liv. Overhovedet.

Virksomheder bliver afhængige af AI

Der er en anden ting, jeg heller ikke forstår. Og det er at virksomheder uden at blinke vil outsource hele eller dele af deres forretning til en af de udenlandske AI-selskaber. Vil du virkelig satse hele virksomhedens eksistensgrundlag på en ekstern faktor?

Der er nok overraskende mange, der vil svare ja, men så har de ikke gidet at lave en risikoanalyse for deres virksomhed. Jeg gentager mig selv fra et tidligere afsnit: Jeg ser et marked for "AI disaster recovery" i fremtiden.

Tailwind, der er et populært CSS-layout framework, måtte fyre medarbejdere, og sælge sig selv til Shopify for stadig at kunne holde dørene åbne. Årsagen var at deres tokenforbrug blev så højt, at økonomien ikke hang sammen.

Tokenpriserne stiger i øvrigt heftigt, fordi hvedebrødsdagene er ovre AI-selskaberne mangler at påvise en forretningsmodel, der kan tjene dem penge.
Forbes skriver: "Virksomheder kæmper med hastigt stigende AI-udgifter, især på "tokens", men kæmper med at påvise et klart investeringsafkast. En OpenAI-rapport fandt ingen meningsfuld sammenhæng mellem medarbejdernes token-output og omsætning pr. medarbejder, på trods af at udgifterne steg kraftigt."

AI-revolutionen udebliver. Også selvom AI-selskaberne har gang i hype-maskinen.