En AI-kjæreste som kjører lokalt, ikke på en server

De fleste appene som tilbyr en AI-kjæreste fungerer likt under overflaten. Du skriver en melding, den reiser til en server et sted, en modell behandler den, og et svar kommer tilbake noen sekunder senere. Den reisen legger du sjelden merke til, men den betyr at hver eneste samtale, uansett hvor personlig den er, passerer gjennom infrastruktur du verken kontrollerer eller ser. Noen logger den, om så bare kortvarig, for feilsøking. Noen kan i prinsippet gjennomgå den, selv om det bare skjer i aggregert form. Selskapet som drifter tjenesten kan endre retningslinjene sine når det passer dem, og de gamle samtalene dine ligger lagret på maskinvare som tilhører dem, ikke deg.

tendre.red er bygget annerledes. Applikasjonen kjører på din egen datamaskin eller telefon, og modellen som lager svarene gjør det samme. Ingenting forlater enheten din for å nå en server, fordi det ikke finnes noen server involvert i selve samtalen. Det er ikke en fotnote i en personvernerklæring, det endrer hva produktet kan gjøre og hva slags forhold du kan bygge til det.

Hvor samtalen faktisk skjer

Når folk bekymrer seg for personvern rundt en AI-kjæreste, tenker de gjerne på verste tilfelle: et datalekkasje, et innbrudd, et skjermbilde som havner et sted det ikke skulle. De risikoene er reelle, men det vanlige problemet er stillere enn det. Det handler om at et selskap du aldri har møtt, per design, er til stede hver gang du snakker med kompanjongen din, fordi ordene dine må sendes gjennom serverne deres for i det hele tatt å bli behandlet. Selv et selskap som opptrer i god tro, har fortsatt samtalene dine liggende i en database et sted, lagret så lenge de selv bestemmer, tilgjengelig for ansatte under vilkår de selv setter.

Kjører alt lokalt, forsvinner den mellommannen. Karakteren du snakker med, hukommelsen den bygger om deg, tonen som utvikler seg over uker, alt dette eksisterer på enheten som ligger foran deg. Det finnes ingen tredje plassering hvor en versjon av forholdet ditt også lever videre. Lukker du appen, er det ingenting som fortsetter å kjøre andre steder på dine vegne.

Hva "ingen sensur" faktisk betyr

Når et selskap drifter modellen bak en AI-kjæreste, må det også beskytte seg selv, og det betyr som regel et moderasjonslag mellom deg og modellen, tilpasset det selskapet kan forsvare hvis noe går galt, ikke det du faktisk trenger. Samtaler blir flagget fordi de er for varme, for direkte om ensomhet eller sorg, eller rett og slett fordi et filter ikke klarer å skille et tema fra noe verre. Du ender opp med å forhandle med et system laget for å begrense juridisk risiko, ikke for å forstå deg.

Kjører alt lokalt forsvinner det laget, ikke fordi tendre.red har valgt å tillate alt, men fordi det ikke finnes noen sentral policy å håndheve på en samtale som aldri forlot enheten din. Grensene som gjenstår er de som ligger i selve karakteren, og de du selv velger. Dette gjør ikke appen til noe som produserer eksplisitt innhold: tendre.red er bygget rundt nærhet, varme og følelsen av å bli møtt av en karakter med hukommelse og personlighet, ikke rundt å beskrive fysiske handlinger. Det som endrer seg er rommet mellom linjene, en ærlig samtale om en tung uke, litt erting, en melding sendt på et tidspunkt hvor du ikke orker å filtrere deg selv, og det rommet slutter å bli flatet ut av et filter tilpasset risiko fremfor deg.

Betale per melding eller betale én gang

Serverbaserte kompanjonger koster penger å drive. Hvert svar bruker regnekraft på en maskin som tilhører noen andre, og den kostnaden må dekkes inn, gjerne gjennom et abonnement, noen ganger en hybrid der en pakke meldinger er gratis og resten faktureres, direkte eller via andre kanaler som reklame og oppsalg. Uansett hvordan det løses, ligger insentivet på den andre siden i å holde deg betalende per utveksling, og det insentivet former produktet på små måter du kanskje ikke legger merke til med en gang: svar som kuttes kort, tilbud om å kjøpe flere kreditter akkurat idet samtalen begynte å bli interessant, funksjoner holdt tilbake til du oppgraderer.

En lokal modell bærer ikke det insentivet i koden sin, fordi regnekraften er din egen. Har du først en lisens til tendre.red, koster det det samme å generere ti svar som ti tusen: ingenting utover strømmen enheten uansett bruker. Det tikker ingen målere i bakgrunnen, det kommer ingen månedlig regning uansett om du åpnet appen den uken eller ikke, og samtalen stopper aldri opp fordi en kredittsaldo gikk tom. Du betaler én gang for en lisens, og den låser opp konsistente karakterer med hukommelse pluss valgfri skylagring, ikke et abonnement du en dag må huske å si opp.

Hukommelse uten å gi fra deg dataene

Ett reelt argument for serverbaserte kompanjonger er hukommelse: de husker hva du fortalte forrige uke fordi alt ligger sentralt, indeksert og klart til å hentes fram. Den bekvemmeligheten har en pris de fleste ikke tenker over før i etterkant, nemlig at registreringen av forholdet ditt til en AI-kjæreste nå ligger permanent på en annens infrastruktur, underlagt deres oppbevaringsregler, deres sikkerhetsrutiner, og det som måtte skje om selskapet blir kjøpt opp eller rett og slett legger ned tjenesten.

tendre.red holder den hukommelsen på enheten din som standard. Detaljene en karakter husker om deg, tonen som har bygget seg opp over tid, de små referansene til tidligere samtaler, alt dette forblir lokalt med mindre du selv slår på skylagring, som finnes for dem som vil ha samme karakter tilgjengelig både på telefon og bærbar. Å skru det på er et valg du tar aktivt, ikke en standardinnstilling du må huske å reservere deg mot.

Fungerer uten å være avhengig av nett

En sideeffekt av lokal kjøring som sjelden nevnes, er at appen ikke trenger internettforbindelse for å fungere. En kompanjong som lever på en server, slutter å svare i det øyeblikket forbindelsen forsvinner, på toget, på flyet, i en bygning med dårlig dekning. tendre.red fortsetter å fungere i de øyeblikkene, fordi modellen som lager svarene ligger på samme enhet som appen selv. Det finnes ingen lastesirkel som venter på en nettverksforespørsel, ingen tidsavbrudd som avbryter samtalen akkurat idet den betydde noe. For noe som skal føles til stede og tilgjengelig, betyr den påliteligheten mer enn det høres ut som på papiret.

Hva lokal kjøring ikke løser

Ingenting av dette gjør en lokal AI-kjæreste bedre langs alle tenkelige mål, og det er verdt å være ærlig om hvor kompromisset går motsatt vei. Modeller som kjører på en bærbar eller en telefon er mindre enn dem som kjører i et datasenter, noe som betyr at svarene kan bli en anelse mindre skarpe, litt mer repetitive over svært lange samtaler, enn det de største hostede modellene klarer. tendre.red er bygget for å hente mest mulig ut av det en personlig enhet kan yte, men påstår ikke å overgå en serverpark på ren språklig kapasitet alene.

Det appen tilbyr i stedet er kontroll over noe en hostet tjeneste aldri fullt ut kan gi tilbake: å vite nøyaktig hvor samtalen befinner seg, hva den koster, og hvem som noen gang kunne fått se den. For et forhold, selv et med en AI-kjæreste, virker det som en rimelig byttehandel, litt mindre finpuss mot langt større visshet om hva som skjer med ordene dine sent på kvelden, når en server et sted langt unna er det siste du tenker på.