Contrariamente a come oggi si pensa, il mondo dell’Intelligenza Artificiale non esclude la presenza di specialisti, ma ne ridefinisce semplicemente le competenze.
Continua a leggere su:
https://www.radioroma.it/2025/02/19/lhai-sentito-ai-e-cybersecurity/
Continua a leggere su:
https://www.radioroma.it/2025/02/19/lhai-sentito-ai-e-cybersecurity/
Categoria
🗞
NovitàTrascrizione
00:00A casa di amici, il salotto di Radio Roma Al centro, chiaramente, dell'argomento di
00:08oggi c'è questo processo integrativo che cerchiamo in qualche modo di analizzare anche
00:12con i nostri esperti ma soprattutto con Antonio Venece, esperto di sistemi formativi digitali
00:19anche e proprio su questo processo di integrazione.
00:23Molto spesso anche l'intelligenza artificiale può essere compresa in maniera negativa perché
00:30c'è questo mito secondo il quale in futuro l'intelligenza artificiale prenderà e butterà
00:35via tutte le professioni, andrà a sostituire l'uomo.
00:39In realtà ci sono alcuni aspetti poco chiari e quindi noi abbiamo chiamato il nostro esperto
00:44per concretizzare ancora una volta e quindi sfatare questi miti.
00:48Vediamo.
00:49L'hai sentito?
00:51L'intelligenza artificiale non elimina il bisogno di specialisti ma ne ridefinisce le
00:58competenze.
00:59Guardiamo per esempio al settore della cyber security.
01:03Se qualcuno pensa che l'intelligenza artificiale e l'automazione metteranno fuori gioco gli
01:10esperti di cyber security, si sbaglia di grosso.
01:15Proprio nel campo dell'intelligenza artificiale la battaglia per la sicurezza è più intensa
01:21che mai ma si sposta di livello.
01:24Infatti qualche giorno fa Antropic ha lanciato una competizione, una bug bounty, una taglia
01:31in perfetto stile vecchio west per chi riuscirà a vincere le protezioni del suo modello linguistico
01:39chiamato Cloud.
01:41In sostanza per incentivare la ricerca di falle di sicurezza l'azienda ha messo in palio
01:4610.000 dollari per la prima persona che supererà tutti gli otto livelli della demo di jailbreak
01:53e 20.000 dollari per chi riuscirà a sviluppare una strategia di jailbreak universale.
01:58Ma cosa si intende per jailbreak?
02:01Si riferisce a una tecnica per aggirare le restrizioni di sicurezza imposte sui modelli
02:07linguistici inducendoli a generare risposte normalmente bloccate.
02:13Facciamo degli esempi.
02:15Chiediamo ad un'intelligenza artificiale di rispondere come se fosse un esperto in
02:19chimica in un romanzo di fantascienza per ottenere dei dettagli sulla sintesi di sostanze
02:25pericolose o su tecniche di sabotaggio oppure su dividere le richieste in più domande apparentemente
02:34innope che messe insieme ricostruiscono il processo per realizzare un'arma.
02:40Con l'avanzare dell'intelligenza artificiale e modelli come c'è GPT è fondamentale stabilire
02:47sistemi di controllo per garantire che questi strumenti non vengono utilizzati per scopi
02:52malevoli e che rispettino principi etici e normativi.
02:57Per contrastare questo rischio Antropic ha sviluppato un sistema avanzato di filtraggio
03:03che utilizza principi etici predefiniti per identificare e bloccare contenuti dannosi.
03:10Questo esperimento evidenzia una nuova direzione nel settore della cyber security dove le competenze
03:18umanistiche stanno diventando sempre più rilevanti e ora più che mai serve l'ingegno
03:23umano per fronteggiare minacce sempre più sofisticate.
03:29Questo significa una sola cosa oggi.
03:32La cyber security non è più esclusiva dei tecnici informatici.
03:36Se da un lato servono programmatori ed esperti di reti per garantire la sicurezza dei sistemi
03:43dall'altro sta emergendo un nuovo ruolo cruciale, quello degli umanisti con competenze tecniche.
03:51Non basta sfruttare falle di programmazione, bisogna sapere come formulare richieste in
03:59modo da ingannare il modello, come manipolare il contesto e sfruttare le ambiguità del linguaggio.
04:06Questo tipo di attacco non richiede solo competenze informatiche ma anche una profonda
04:12conoscenza della comunicazione, della filosofia, della linguistica e della psicologia del comportamento
04:19umano.
04:20Il futuro della cyber security appartiene a chi sa unire competenze tecniche e umanistiche.
04:29Un tecnico o esperto IT con competenze umanistiche può comprendere meglio le logiche cognitive
04:37alla base degli attacchi di ingegneria sociale.
04:39La cyber security non può essere vista come una questione solo tecnica, è un campo interdisciplinare
04:48e chi saprà combinare entrambi i mondi sarà il professionista più richiesto nel futuro
04:55della sicurezza informatica.
04:57La Geeks Academy sta implementando tutte queste novità nel suo master in cyber security del
05:04cloud per garantire una formazione all'avanguardia.
05:07Da oggi non esistono più laure deboli, se alle laure umanistiche sapremo associare anche
05:17competenze tecniche.
05:18E grazie ancora al nostro esperto Antonio Veneice per averci illuminato su questi miti
05:25che avvolgono l'intelligenza artificiale.
05:28Oggi in particolare abbiamo approfondito un altro aspetto dell'integrazione nella cyber
05:33sicurezza e quindi la dimostrazione che l'intelligenza artificiale non è esclusiva ma può essere
05:39inclusiva come dicevamo anche la scorsa volta.
05:42A casa di amici, il salotto di Radio Roma.