Què fa de veritat un secretari d'IA (i què no hauria de fer mai sol)
La diferència entre un assistent útil i un d'inquietant no és quant sap, sinó quantes decisions pren sense preguntar.
Gairebé tot el que avui es ven com a "assistent d'IA" és en realitat un cercador amb bones maneres. Escrius, respon, i aquí s'acaba la relació. Un secretari, en el sentit clàssic de la paraula, fa una cosa força més incòmoda de construir: mira el teu dia abans que tu i et diu què farà mal.
Llegir no és el difícil
Resumir un correu llarg fa anys que està resolt. El que continua sense estar-ho és decidir quin correu mereix interrompre't. Un model pot classificar cent missatges per importància en un segon, però la importància no és al text: és a la teva setmana. El mateix missatge d'un proveïdor és soroll al gener i una urgència el dia abans d'un lliurament.
Per això un assistent que només llegeix correu es queda curt. També necessita veure l'agenda, les tasques i els compromisos que ja vas adquirir, i creuar-los. És la diferència entre "tens 40 correus sense llegir" i "d'aquests 40, tres afecten una cosa que vas prometre per dijous".
Les tres coses que no hauria de fer sol
Com més útil és un assistent, més perillós és deixar-li la mà lliure. Hi ha tres fronteres que convé no travessar sense una confirmació explícita:
- Enviar en nom teu. Redactar l'esborrany, sí. Prémer enviar, no, mentre no l'hagis llegit. Un correu mal enviat no es pot desfer i el signa el teu nom, no el del model.
- Esborrar o arxivar en massa. Arxivar és reversible; esborrar, segons on, no. Un assistent que "neteja" la safata sense registre deixa l'usuari sense manera de saber què va perdre.
- Compartir dades cap enfora. Qualsevol crida a un servei extern treu la teva informació del sistema. Això hauria de ser una decisió teva, no un detall d'implementació.
La regla que resumeix les tres: si una acció és difícil de desfer o surt del teu control, es demana permís. Si és reversible i es queda dins, es pot fer i avisar.
Autonomia per graus, no per interruptor
L'error habitual de disseny és plantejar l'autonomia com un sí o un no. Funciona molt millor per graus: primer només observa, després proposa, després executa el reversible, i només al final —si l'usuari ho demana— executa l'irreversible. Cada esglaó es guanya amb historial, no amb una casella als ajustos.
I sobretot: l'usuari ha de poder respondre en qualsevol moment a tres preguntes. Què sap de mi. Per què m'avisa d'això. Què passarà exactament si premo aquest botó. Si alguna de les tres no té resposta clara, l'assistent no està a punt per a més autonomia, per molt bé que resumeixi.
Pots veure com ho plantegem nosaltres a la consola de Matino, i quines dades desa i durant quant a la nostra política de privacitat. Si t'interessa el tema, hi ha més articles sobre assistents d'IA.