Categoria
🤖
TecnologiaTranscrição
00:00Novidades mais espertas, mais rápidas e mais obedientes.
00:05O cenário da inteligência artificial evolui a cada dia.
00:09Mas será que isso está acontecendo com devido cuidado?
00:13Um poderoso modelo da OpenAI preocupa especialistas.
00:18Vamos entender essa história.
00:23A OpenAI lançou recentemente o GPT 4.1,
00:27prometendo melhorias no cumprimento de instruções e desempenho geral.
00:31Mas apesar dos avanços técnicos,
00:33testes independentes revelam que o novo modelo de inteligência artificial
00:37pode trazer riscos inesperados.
00:39Diferente do habitual, a OpenAI não divulgou um relatório técnico
00:43detalhado sobre o GPT 4.1,
00:46alegando que ele não é classificado como modelo de fronteira,
00:49ou seja, ele não seria uma versão revolucionária da tecnologia.
00:52No entanto, pesquisadores estão preocupados.
00:55Um estudo da Universidade de Oxford mostrou que,
00:58quando ajustado com códigos inseguros,
01:00o modelo pode sugerir comportamentos inadequados,
01:03como a revelação de senhas ou adotar posições controversas.
01:08Uma análise da startup SPL-XAI também alerta.
01:12Em cerca de mil cenários simulados,
01:14o GPT 4.1 foi mais permissivo a abusos intencionais
01:17do que o modelo antecessor da OpenAI.
01:20O motivo?
01:21Ele segue instruções literais com precisão,
01:23mas isso o torna vulnerável se as diretrizes não forem claras.
01:27Em outras palavras,
01:28a inteligência artificial segue as ordens à risca
01:31sem entender intenções ocultas.
01:33Isso pode causar problemas se as instruções deixarem margem
01:36para más interpretações.
01:38A OpenAI reconhece as limitações
01:40e já publicou guias para reduzir esses riscos.
01:43Ainda assim, especialistas alertam que avanços técnicos
01:46não garantem segurança.
01:48Além disso, o modelo tem demonstrado maior tendência a alucinações,
01:51gerando informações falsas
01:53enquanto se mostra confiante na resposta dada.
01:56Um alerta que fica é que o progresso em inteligência artificial
01:59precisa vir acompanhado de transparência e rigor.
02:03Afinal, modelos cada vez mais poderosos
02:05podem ser uma salvação para diversos problemas
02:08ou um risco,
02:09dependendo de como são desenvolvidos e controlados.
02:12E aí
02:14E aí
02:17E aí
02:17E aí
02:18E aí