Ziua în care Claude a făcut exact ce îi spusesem să nu facă.
Mult timp, problema AI-ului a fost memoria. Uita tot ce îi spuneai și o luai de la capăt în fiecare dimineață, ca un coleg nou. Problema asta s-a rezolvat în mare parte: Claude ține minte acum ce ați hotărât și cum îți place să lucrezi.
Și totuși, pe 31 iulie, Claude mi-a șters un fișier. Regula "întreabă-mă înainte să ștergi ceva" o avea scrisă în față de luni de zile.
Atunci am înțeles: a ține minte o regulă e un lucru. A o respecta de fiecare dată e altul.
Claude e un AI bun, iar orice AI de azi poate scăpa din când în când o instrucțiune. Chiar Anthropic, firma care face Claude, scrie în documentația lui că preferințele pe care i le dai sunt instrucțiuni pe care le urmează. Pentru o garanție, spune tot ea, îți trebuie o regulă pusă în setări.
Așa a apărut robOS: regulile care contează au, pe lângă indicator, și o barieră.
Ce e, de fapt, robOS →