Gemini planlagde turen: tre vandrere reddet fra Mount Shasta

Tre unge mænd måtte reddes fra Mount Shasta i det nordlige Californien efter en vandretur, de havde planlagt med Googles AI-chatbot Gemini. Det oplyser sheriffkontoret i Siskiyou County, som stod for redningen — og som i samme ombæring kom med en advarsel, der er værd at læse, hvis du selv bruger AI til at planlægge ture: stol aldrig udelukkende på en chatbot.

Historien er værd at være præcis om, for den er hurtigt blevet fortalt forkert. Det er ikke fastslået, at Gemini er skyld i redningsaktionen. TechCrunch, der har historien, skriver direkte, at det ikke står klart, om Gemini kan tage hele skylden for de beslutninger, gruppen traf undervejs. Det interessante for danske læsere er derfor ikke skyldsspørgsmålet, men hvad AI-planlægning konkret er dårlig til — og hvad du selv skal tjekke.

Hvad skete der på Mount Shasta?

Mount Shasta er en vulkan på 4.322 meter i Cascade-bjergkæden i det nordlige Californien. Den er populær blandt vandrere og bestigere, men den er ikke en spadseretur: ruten til toppen går over sne og løst vulkansk grus, og vejret kan skifte hurtigt.

De tre vandrere startede klokken 3 om natten. Ifølge sheriffkontoret nåede de først toppen klokken 19 om aftenen — altså mange timer efter det tidspunkt, hvor man normalt anbefaler at vende om. På Mount Shasta lyder tommelfingerreglen, at man skal være på vej ned senest ved middagstid, blandt andet fordi sneen bliver ustabil i eftermiddagsvarmen, og fordi man ellers risikerer at skulle ned i mørke.

Det var præcis, hvad der skete. Gruppen begyndte nedstigningen i mørke, ringede efter vejvisning og endte med at tilbringe natten i Mud Creek Canyon, før de blev reddet. Turen, der var planlagt til at tage otte timer, blev til en flerdøgnsaffære.

Sheriffens ord: "for lidt mad og vand"

Det konkrete, der kan tilskrives Gemini, er ét punkt — og det kommer fra sheriffkontoret selv. Ifølge Siskiyou County Sheriff's Office var vandrerne "advised by Gemini to bring far less food and water than their group required" — altså rådet af Gemini til at medbringe langt mindre mad og vand, end gruppen havde brug for, især da den planlagte otte timers bestigning trak ud over flere døgn.

Sheriffkontorets egen konklusion er samtidig forsigtig. Myndigheden skriver, at det ikke er klart, om Gemini kan tage hele skylden for de dårlige beslutninger, og anbefaler i stedet vandrere at kontakte den lokale rangerstation før turen og aldrig at forlade sig udelukkende på AI, når man planlægger en tur.

Det er værd at holde fast i den nuance. En gruppe, der når toppen syv timer efter den anbefalede vendetid, har truffet en række valg undervejs, som ingen chatbot har været med til. Men rådet om proviant er konkret nok til at være lærerigt.

Hvad AI typisk tager fejl af, når den planlægger en tur

Sprogmodeller som Gemini og ChatGPT er gode til at strukturere en plan og dårlige til at kende de betingelser, planen skal holde under. Det er ikke en fejl i én bestemt model, men en konsekvens af, hvordan de fungerer:

• Den kender ikke dagens forhold. Sne, snesmeltning, isforhold, vandstand i vadesteder, lukkede stier og lokale afspærringer skifter fra uge til uge. En model, der er trænet på tekst, svarer ud fra et gennemsnit — ikke ud fra situationen i morgen.
• Den regner med den optimale udgave af dig. Tidsestimater bygger typisk på rutebeskrivelser skrevet af erfarne folk i godt vejr. Otte timer på papiret er ikke otte timer med tung oppakke, en dårlig nats søvn og en gruppe, der skal holde sammen.
• Den skalerer ikke buffer. Mad og vand beregnes til den planlagte tid, ikke til den tid turen kan tage, hvis noget går skævt. Netop det er kernen i sagen fra Mount Shasta.
• Den svarer også, når den ikke ved det. En chatbot siger sjældent "det ved jeg ikke". Den producerer et konkret, velformuleret tal — og det tal føles mere autoritativt, end det er.

Dertil kommer, at AI-assistenter i praksis er blevet dårligere til at huske kontekst gennem lange samtaler. Vi har tidligere skrevet om, hvordan hukommelsen i ChatGPT og Gemini kan gøre svarene dårligere over tid — og en flertrinsplan til en bjergtur er præcis den slags samtale, hvor det går galt.

Sådan bruger du AI til turplanlægning uden at ende som nyhed

AI er faktisk udmærket til turplanlægning — som udkast. Problemet opstår, når udkastet bliver til facit. Behandl svaret som et forslag fra en velmenende ven, der aldrig har været på stedet, og tjek de fire ting, der kan koste dig turen:

1. Vejr og forhold fra en officiel kilde. I Danmark er det DMI, i udlandet den nationale vejrtjeneste. Til bjergture: den lokale rangerstation, hytteforvaltning eller bjergredning — det er dem, der ved, om ruten overhovedet er farbar lige nu.
2. Ruten på et rigtigt kort. Sammenlign AI'ens rutebeskrivelse med et officielt kort eller en etableret kortapp. Er stien der stadig? Går den den vej? I Danmark ligger de afmærkede ruter hos Naturstyrelsen.
3. Tid og vendetid. Læg mindst 50 procent oven i AI'ens tidsestimat, og aftal en fast vendetid, før I starter — et klokkeslæt, hvor I vender om, uanset hvor tæt I er på målet.
4. Mad og vand til den lange udgave. Regn proviant ud fra worst case, ikke fra planen. Tommelfingerreglen for en hel dag i bjergene er mindst tre liter vand per person plus en ekstra portion mad, der aldrig røres, medmindre noget går galt.

Og et femte punkt, som ikke handler om AI: sig til nogen, hvor I går hen, og hvornår I forventes tilbage.

Hvorfor det her rammer flere og flere

Gemini er ikke længere et nichemæssigt værktøj. Google har rundet en milliard brugere af Gemini, og assistenten sidder nu direkte i Google-appen, i søgning og på Android-telefoner. Det betyder, at rigtig mange mennesker får AI-genererede råd, uden aktivt at have opsøgt en chatbot — de spurgte bare Google.

Netop derfor er sheriffkontorets råd mere relevant end selve historien om de tre vandrere. Når AI-svar bliver standardsvaret, flytter ansvaret for at kontrollere dem over på brugeren. Google skriver selv, at Gemini kan tage fejl, og at man bør tjekke vigtige oplysninger — men den advarsel står med småt, og den står ikke i det svar, du læser klokken 22 aftenen før turen.

Konklusion

Sagen fra Mount Shasta er ikke beviset på, at AI er farligt. Den er et konkret eksempel på, hvor grænsen går: en chatbot kan strukturere en tur, men den kan ikke vide, hvordan der ser ud på bjerget i morgen, og den kalibrerer ikke sine råd efter, at tingene kan gå galt.

Sheriffkontorets formulering er den mest brugbare, der er kommet ud af sagen: kontakt den lokale rangerstation, og forlad dig aldrig udelukkende på AI, når du planlægger en tur. Det gælder også en weekendtur på Hærvejen eller en vandring i de norske fjelde — de fleste danske vandreture ender ikke i en redningsaktion, men de ender oftere, end man tror, med for lidt vand og for lidt lys.