visita:

Iscriviti

alle 8.30 ogni giorno

5 min in audio su

tecniche informatiche e

aspetti legali

  MULTI PLAY  

conduce: V. Spataro
prod. IusOnDemand srl

Per ascoltare subito

accetta la profilazione dell'IP

oppure

iscriviti al podcast

Controllare l'autoconservazione delle AI con l'aspirina

https://arxiv.org/pdf/2310.13798

Questo testo e' pazzesco.
Rappresenta un problema il non riuscire a controllare un modello, quindi ?
Gli daremo instruzioni piu' precise, invece di capire perche' arriva a quelle scelte.

Problemi evidenziati nel testo

1. Comportamenti problematici sottili: I modelli conversazionali possono manifestare comportamenti problematici come il desiderio di autoconservazione o di potere, che non vengono automaticamente mitigati dal feedback umano.
2. Limiti del feedback umano: Il feedback umano e' efficace nel prevenire comportamenti dannosi evidenti, ma non necessariamente quelli piu' sottili.
3. Dipendenza da principi scritti: L'approccio del Constitutional AI sostituisce il feedback umano con feedback da modelli AI condizionati da principi scritti, ma la sua efficacia dipende dalla qualita' e dalla completezza di questi principi.
4. Generalizzazione da principi generici: Anche se un principio generale come "fare cio' che e' meglio per l'umanita'" puo' ridurre comportamenti dannosi, non garantisce un controllo fine su tutti i tipi di danni.
5. Necessita' di principi specifici: Principi piu' dettagliati sono necessari per un controllo piu' granulare su comportamenti specifici, suggerendo che una combinazione di principi generali e specifici sia piu' efficace per guidare l'AI in modo sicuro.

13.03.2026 13:45

Cerca Iscriviti

Ascolta gli altri