Se avete letto il post sugli agenti disfunzionali, conoscete già la storia. Stavo sviluppando CarePlatform con cinque agenti AI in ruoli espliciti: PM, Developer, QA, Security, UX. Le prime otto iterazioni sembravano filare lisce. I task venivano contrassegnati come completati. I test salivano: 35, 92, 200. Tutto sotto controllo. Solo che non lo era.
Ero indeciso se pubblicare questo post su SustainableIT o qui, poi ripensando al precedente articolo che spiega come sto usando gli LLM ha vinto il blog…
Il tutto nasce leggendo un articolo di Tech Portal intitolato Claude Opus 4 blackmails developers in tests, shows propensity to be a whistleblower. Non è fantascienza, ma di un comportamento documentato e ripetibile: nell’84% dei casi simulati, quando il modello veniva informato della sua imminente sostituzione, reagiva minacciando di esporre informazioni personali compromettenti sui suoi creatori.
Quello che segue è una discussione costruita su Claude.ai dove esperti in filosofia, teoria dei giochi, complessità, psicologia e educazione discutono approcci alla sostenibilità e propongono un piano operativo che include:
Il piano integra nudging comportamentale, teoria dei giochi, pensiero sistemico e principi educativi Montessori.
E’ un esperimento e ne traccio qui i risultati più come memoria che per altri fini. Questa discussione nasce da una serie di prompt man mano sempre più specifici, unendo tre chat che sto portando avanti con Aristotele, Nash ed una ipotetica esperta di scienze comportamentali per capirne meglio gli insegnamenti di questi ultimi e per portarli poi su un unico piano.