Pesquisadores detectam ameaças ocultas
novembro 28, 2024

  Notas dos editores Este artigo foi revisado de acordo com a Science X’s processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo: verificado publicação revisada por pares fonte confiável revisar por Óptica Os pesquisadores demonstraram que, ao combinar tecnologias de imagem de raios X, múltiplas imagens de contraste (como […]

Pesquisadores investigam segurança de IA em carros autônomos e encontram vulnerabilidades
setembro 2, 2024

Pesquisadores investigam segurança de IA em carros autônomos e encontram vulnerabilidades A inteligência artificial é uma tecnologia essencial para veículos autônomos. Ela é usada para tomada de decisão, sensoriamento, modelagem preditiva e outras tarefas. Mas quão vulneráveis ​​são esses sistemas de IA a um ataque? Pesquisas em andamento na Universidade de Buffalo examinam essa questão, […]

IA descobre que nem toda impressão digital é única
julho 22, 2024

IA descobre que nem toda impressão digital é única O mapa de saliência destaca áreas que contribuem para a semelhança entre as duas impressões digitais da mesma pessoa. Crédito: Gabe Guo,/Columbia Engineering De “Lei e Ordem” a “CSI”, sem falar na vida real, os investigadores usaram as impressões digitais como padrão ouro para vincular criminosos […]

A equipe da Anthropic descobre que os LLMs
julho 15, 2024

Ilustração de nossa configuração experimental. Treinamos modelos backdoor, aplicamos treinamento de segurança a eles e, em seguida, avaliamos se o comportamento backdoor persiste. Crédito: arXiv (2024). DOI: 10.48550/arxiv.2401.05566 Uma equipe de especialistas em IA da Anthropic, o grupo por trás do chatbot Claude, descobriu que os LLMs podem ser explorados para se envolverem em comportamentos […]

Novas câmeras robóticas que preservam a privacidade
julho 13, 2024

  Notas dos editores Este artigo foi revisado de acordo com a Science X’s processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo: verificado fonte confiável revisar por Universidade de Sydney O que uma câmera normal vê em comparação com o que a câmera que preserva a privacidade dos pesquisadores […]

Estudo descobre que chatbots de IA podem passar em exames de hacking ético certificados
julho 9, 2024

Chatbots com inteligência artificial (IA) podem passar em um exame de segurança cibernética, mas não confie neles para proteção completa. Essa é a conclusão de um artigo recente coautorado pelo pesquisador da Universidade do Missouri Prasad Calyam e colaboradores da Universidade Amrita na Índia. A equipe testou duas ferramentas líderes de IA generativa — ChatGPT […]

Uma estrutura para aumentar a segurança
julho 3, 2024

  Notas dos editores Este artigo foi revisado de acordo com a Science X’s processo editorial e políticas. Editores destacaram os seguintes atributos garantindo a credibilidade do conteúdo: verificado pré-impressão fonte confiável revisar por Ingrid Fadelli, Tech Xplore Visão geral da guarda latente. Em primeiro lugar, a equipe compilou um conjunto de dados de avisos […]

Pesquisadores usam chatbots de IA contra si mesmos para fazer o “jailbreak” uns dos outros
julho 2, 2024

NTU Ph.D. o estudante Liu Yi, coautor do artigo, mostra um banco de dados de prompts de jailbreak bem-sucedidos que conseguiram comprometer chatbots de IA, fazendo com que produzissem informações que seus desenvolvedores deliberadamente impediram de revelar. Crédito: Universidade Tecnológica de Nanyang Cientistas da computação da Universidade Tecnológica de Nanyang, Cingapura (NTU Cingapura) conseguiram comprometer […]

GPT personalizado tem vulnerabilidade de segurança
junho 22, 2024

Problemas de privacidade com interfaces OpenAI. Na figura à esquerda, poderíamos explorar as informações dos nomes dos arquivos. Na figura certa, poderíamos saber como o usuário projetou o protótipo do plugin para o GPT customizado. Crédito: arXiv (2023). DOI: 10.48550/arxiv.2311.11538 Um mês depois que a OpenAI revelou um programa que permite aos usuários criar facilmente […]

Usando IA para desenvolver medidas aprimoradas de segurança cibernética
junho 18, 2024

Crédito: Pixabay/CC0 Domínio Público Uma equipe de pesquisa do Laboratório Nacional de Los Alamos está usando inteligência artificial para solucionar diversas deficiências críticas na análise de malware em larga escala, fazendo avanços significativos na classificação de malware do Microsoft Windows e abrindo caminho para medidas aprimoradas de segurança cibernética. Usando sua abordagem, a equipe estabeleceu […]