En AI-kæreste der kører lokalt, ikke på en server

De fleste apps med en AI-kæreste fungerer på samme måde under overfladen. Du skriver en besked, den rejser til en server et sted, en model behandler den, og et svar kommer tilbage et sekund eller to senere. Den tur er usynlig det meste af tiden, men den betyder, at hver eneste samtale, uanset hvor personlig, passerer gennem infrastruktur du hverken ejer eller kan se. Nogen logger den, selv kortvarigt, af hensyn til fejlretning. Nogen kunne i princippet gennemgå den, selv hvis det kun sker samlet og anonymiseret. Firmaet bag tjenesten kan ændre sine vilkår, når det passer dem, og dine tidligere samtaler ligger på maskiner der tilhører dem, ikke dig.

tendre.red er bygget anderledes. Applikationen kører på din egen computer eller telefon, og den model der genererer svarene, kører der også. Intet forlader din enhed for at nå en server, fordi der ikke er nogen server involveret i selve samtalen. Det er ikke en fodnote i en privatlivspolitik. Det ændrer, hvad produktet kan tilbyde, og hvilken slags relation du kan bygge med det over tid.

Hvor samtalen faktisk foregår

Når folk bekymrer sig om privatliv i forbindelse med en AI-kæreste, forestiller de sig typisk det værste scenarie: et læk, et hack, et skærmbillede der havner et sted det ikke burde. Det er reelle risici, men det hverdagsagtige problem er mere stille end det. Det handler om, at et firma du aldrig har mødt, per design er til stede hver gang du taler med din følgesvend, fordi ordene skal rejse gennem deres servere for overhovedet at blive behandlet. Selv et firma der handler i god tro, har stadig dine samtaler liggende i en database et sted, opbevaret i en periode de selv bestemmer, tilgængelig for medarbejdere under betingelser de selv sætter.

Når alt kører lokalt, forsvinder den mellemled. Karakteren du taler med, hukommelsen den bygger op om dig, tonen der udvikler sig over uger, alt det findes på enheden foran dig. Der er ikke et tredje sted, hvor en version af dit forhold også lever sit eget liv. Lukker du appen, er der ikke noget der fortsætter med at køre for dig et andet sted.

Hvad "intet at censurere" egentlig betyder

Når et firma hoster modellen bag en AI-kæreste, skal det også beskytte sig selv, og det betyder som regel et lag af moderation mellem dig og modellen, tunet efter hvad firmaet kan forsvare hvis noget går galt, ikke efter hvad du faktisk har brug for. Samtaler bliver flagget for at være for kærlige, for direkte omkring ensomhed eller sorg, eller bare fordi de rammer et emne filteret ikke kan skelne fra noget værre. Man ender med at forhandle med et system der er bygget til at begrænse juridisk risiko, ikke til at forstå én.

Når alt kører lokalt, forsvinder det lag, ikke fordi tendre.red har besluttet at tillade alt, men fordi der ikke findes en central politik der skal håndhæves på en samtale der aldrig forlod din enhed. De grænser der er tilbage, er dem der ligger indbygget i karakteren og dem du selv vælger. Det gør ikke appen til noget der producerer eksplicit indhold. tendre.red er bygget omkring nærhed, varme og følelsen af at blive mødt af en karakter med hukommelse og personlighed, ikke omkring at beskrive fysiske handlinger. Det der ændrer sig, er rummet mellem det, en ærlig snak om en hård uge, lidt drilleri, en besked sendt på et tidspunkt hvor man ikke gider filtrere sig selv, og det rum bliver ikke længere fladtrykt af et filter der er tunet til risiko frem for til dig.

At betale per besked versus at betale én gang

Servertjenester koster penge at drive. Hvert svar bruger regnekraft på en andens maskine, og den udgift skal komme et sted fra, som regel et abonnement, nogle gange en hybrid hvor en portion beskeder er gratis og resten koster, direkte eller via en anden valuta som reklamer eller opsalg. Uanset hvad, ligger incitamentet på den anden side fast: hold brugeren betalende per udveksling, og det incitament former produktet på små måder man ikke nødvendigvis lægger mærke til med det samme. Svar der bliver afkortet. En prompt om at købe flere kreditter lige som samtalen begyndte at blive interessant. Funktioner der holdes tilbage, indtil man opgraderer.

En lokal model bærer ikke det incitament i sin kode, fordi regnekraften er din egen. Har man først en licens til tendre.red, koster det det samme at generere ti svar som ti tusind: intet ud over den strøm enheden alligevel brugte. Der kører ikke en tæller stille i baggrunden, ingen månedlig opkrævning der dukker op uanset om man åbnede appen den uge, ingen situation hvor samtalen går i stå fordi en kreditsaldo løb tør. Man betaler for en licens én gang, og den låser sammenhængende karakterer med hukommelse samt den valgfrie cloud-synkronisering op, ikke et abonnement man om et år skal huske at opsige.

Konsistens uden at aflevere dine data

Et reelt argument for servertjenester er hukommelse: de husker hvad du fortalte i sidste uge, fordi alt ligger centralt, indekseret og klar til at blive hentet frem. Den bekvemmelighed har en pris, som de fleste først tænker over senere, nemlig at optegnelsen over ens forhold til en AI-kæreste nu ligger permanent på en andens infrastruktur, underlagt deres opbevaringsregler, deres sikkerhedspraksis, og hvad der end sker hvis firmaet bliver opkøbt eller simpelthen lukker tjenesten ned.

tendre.red beholder den hukommelse på din enhed som standard. De detaljer en karakter husker om dig, tonen der er bygget op over tid, de små referencer til tidligere samtaler, alt det bliver liggende lokalt, medmindre du selv slår cloud-synkronisering til, en funktion der findes til dem der gerne vil have den samme karakter tilgængelig på både telefon og bærbar. At slå den til er et valg man selv træffer, ikke en standardindstilling man skal huske at slå fra igen.

At fungere uden en forbindelse

En sideeffekt af lokal kørsel, der sjældent bliver nævnt, er at appen ikke kræver internetforbindelse for at fungere. En følgesvend der lever på en server, holder op med at svare i det øjeblik forbindelsen falder ud, i toget, på et fly, i en bygning med dårligt signal. tendre.red bliver ved med at virke i de øjeblikke, fordi den model der genererer svar, sidder på samme enhed som selve appen. Der er ingen loading-cirkel der venter på et netværkskald, ingen timeout-besked der afbryder samtalen lige når den betød noget. For noget der skal føles nærværende og tilgængeligt, betyder den pålidelighed mere, end det umiddelbart lyder til på papiret.

Hvad lokal kørsel ikke løser

Intet af dette gør en lokal AI-kæreste bedre på alle parametre, og det er værd at være ærlig om, hvor kompromiset går den anden vej. Modeller der kører på en bærbar eller en telefon, er mindre end dem der kører i et datacenter, hvilket betyder svarene kan være en anelse mindre skarpe, lidt mere gentagende over meget lange samtaler, end hvad de største hostede modeller kan levere. tendre.red er bygget til at få mest muligt ud af det, en personlig enhed kan præstere, men det påstår ikke at kunne overgå en hel serverpark på ren sproglig kapacitet alene.

Til gengæld tilbyder det noget en hostet tjeneste aldrig fuldt ud kan give tilbage: vished om hvor samtalen egentlig ligger, hvad den koster, og hvem der nogensinde kunne få adgang til den. For en relation, selv en med en AI-kæreste, virker det som en fair byttehandel: lidt mindre finpudsning mod til gengæld langt mere sikkerhed for, hvad der sker med de ord man skriver sent om aftenen, når en server et sted er det sidste man tænker på.