Spiegare l’ouput di una rete neurale? Ci pensa “Activation Atlases” di OpenAI

News

Riuscire a spiegare perché una rete neurale abbia dato una certa risposta anziché un’altra è uno dei principali problemi di questo genere d’approccio. Finché si tratta di identificare gattini all’interno di fotografie, potrebbe non essere un problema, ma pensate se si trattasse di diagnosticare un tumore oppure di erogare un mutuo. Non è accettabile (da diversi punti di vista: scientifico, legale, etico…) avere un responso senza poterlo spiegare.

OpenAI ha lanciato, da un paio di mesi, lanciato Activation Atlases per aiutare i ricercatori a identificare le ragioni che hanno portato una rete neurale ad una certa risposta o comprendere se l’apprendimento della stessa si stia fondando su errate convinzioni. 

Il futuro delle applicazioni intelligenti passa anche, anzi direi soprattutto, da questi strumenti.

Please follow and like us:
No Comments

Leave a Reply

Your email address will not be published. Required fields are marked *

News
Il futuro dell’AI passerà attraverso moli di dati più piccole?

Come tutti sappiamo, nel recente passato decine e decine di reti neurali sono state addestrate con montagne di dati. Tuttavia, come è noto ai più, queste reti presentano problemi quando devono focalizzarsi su casi limite. Essendo casi limite, infatti, hanno portato un contributo minore nell’addestramento delle stesse reti. Sono famosi, …

News
UNICT – Machine learning: parte un nuovo corso di studio

Ha preso il via in questi giorni, al dipartimento di Matematica e Informatica dell’Università di Catania, la seconda edizione del corso di studio in Machine Learning tenuto dal prof. Giovanni Maria Farinella e incentrato sulle tecnologie di Deep Learning, oggi considerate alla base dell’Intelligenza Artificiale. Il corso, offerto agli studenti dell’Ateneo, …

News
PathAI: 60 milioni di euro per identificare le malattie gravi

La startup statunitense PathAI ha sviluppato una piattaforma basata su intelligenza artificiale il cui obiettivo è la diagnosi e la classificazione delle malattie gravi. Poco fa hanno chiuso un round (series b) di investimento grazie al supporto dei fondi di venture capital General Atlantic, General Catalyst e altri. Negli ultimi …

Social media & sharing icons powered by UltimatelySocial