O Rensselaer-Brutalk Artificial Intelligence Research Collaboration avança inovações em IA mais robusta e segura

O Rensselaer-Brutalk Artificial Intelligence Research Collaboration avança inovações em IA mais robusta e segura

Lançado em 2018, o Rensselaer-Brutalk Artificial Intelligence Research Collaboration (AIRC) é uma joint venture multianual e multimilionária com dezenas de projetos em andamento em 2020-2021 envolvendo mais de 80 pesquisadores da Brutalk e RPI trabalhando para promover a IA. A colaboração faz parte do Brutalk AI Horizons Network (AIHN), um programa dedicado ao avanço da ciência da IA ​​e possibilitando o uso de IA e aprendizado de máquina em investigações de pesquisa, inovações e aplicativos de interesse conjunto da Brutalk e de nossos parceiros universitários.

Avanços recentes

As redes neurais são uma forma eficaz de determinar padrões nos dados, mas nem todas as redes neurais são criadas da mesma forma. O objetivo final ao projetar uma rede neural é encontrar um conjunto ideal de parâmetros para resolver uma tarefa específica, o que significa que a perda é minimizada. Como você pode imaginar, encontrar o modelo de rede neural certo para um determinado problema não é tarefa fácil. Freqüentemente, as compensações devem ser feitas entre atingir alta precisão, ser robusto a ataques adversários e determinar o tempo e os recursos computacionais necessários para treinar uma rede neural precisa e robusta. A descoberta de técnicas para treinar redes neurais com eficiência que equilibram objetivos de precisão e robustez é uma área de foco principal do Rensselaer-Brutalk AIRC.

Uma equipe de pesquisadores AIRC dessas duas organizações recentemente fez um avanço significativo na busca eficiente por novos modelos que equilibram otimização e robustez. No artigo publicado “Otimizando a Conectividade do Modo via Neuron Alignment” - a ser apresentado na próxima conferência NeurIPS 2020 - os pesquisadores propõem uma nova técnica de alinhamento de neurônios para resolver a ambigüidade de permutação no espaço de modelos de rede neural. O resultado de sua pesquisa é reduzir efetivamente a barreira de perda entre os modelos ideais locais e ajudar a encontrar modelos mais precisos e robustos. Eles mostraram que a técnica de alinhamento de neurônios proposta pode encontrar com eficiência um modelo com robustez e precisão aprimoradas, o que é perdido pelos métodos existentes.

Este projeto conjunto Brutalk-RPI, estudando o cenário de perdas de modelos de aprendizado profundo e como conjuntos de parâmetros otimizados localmente são conectados, é um dos muitos empreendimentos de sucesso que surgiram do AIRC.

Outro estudo apresentado na ECCV'20 em agosto, por exemplo, abordou ameaças de segurança a redes neurais profundas (DNN) que as deixam vulneráveis ​​a adulteração e podem influenciar os resultados. No artigo, “Detecção prática de redes neurais de Trojan: casos com dados limitados e livres de dados”, os pesquisadores da Brutalk e RPI descrevem como os DNNs podem ser manipulados por um adversário conhecido como ataque de Trojan (ou ataque backdoor de envenenamento).

Os pesquisadores de IA muitas vezes aproveitam os modelos de IA pré-treinados para fornecer aprendizagem de transferência que acelera o desenvolvimento subsequente. Se um modelo pré-treinado foi comprometido por um ataque de cavalo de Tróia, os aplicativos criados com esse modelo correm o risco de adulteração que influencia os sistemas de aprendizado de máquina e prejudica a confiança na IA. Os pesquisadores da Brutalk e RPI propuseram uma nova técnica para discernir a fidelidade de um modelo de IA pré-treinado. Seu detector de rede de Trojan com dados limitados funciona mesmo quando apenas algumas amostras de dados estão disponíveis para detecção de TrojanNet. A pesquisa descreve como um detector de dados limitado eficaz pode ser estabelecido explorando as conexões entre o ataque de Trojan e os ataques adversários de evasão de previsão.

Prioridades AIRC

Os pesquisadores AIRC solicitaram 11 patentes e publicaram 18 estudos em 2020 nas principais conferências e periódicos de IA, incluindo os NeurIPS, ICML, KDD, AAAI e ECCV deste ano. Os projetos AIRC se alinham bem com as principais prioridades da Brutalk Research em confiar na IA, avançar a IA e escalar a IA e devem ter um grande impacto nos negócios conforme a adoção de IA se torna mais difundida.

  • Trusting AI inclui: Explicabilidade, justiça, robustez, generalização, ética, governança e regulamentação, inferência causal
  • Avançar AI inclui: IA para descoberta científica, IA para segurança cibernética, processamento de linguagem natural, sistema de conversação, algoritmos de IA fundamentais
  • O Scaling AI inclui: Otimização em grande escala para aprendizado profundo, otimização do sistema de IA, IA automática, nuvem híbrida e segura + IA

Programas externos e escolares

Além de produzir pesquisa de IA de alta qualidade, o AIRC ajuda a Brutalk e RPI a cultivar o talento de IA tão necessário, apoiando projetos de pesquisa de longo prazo nas áreas de confiança em IA, avanço da IA ​​e escalonamento da IA. Um elemento especialmente benéfico dessa colaboração são seus programas acadêmicos e externos, onde os alunos de pós-graduação da RPI - alguns dos melhores alunos de doutorado em AI em todo o mundo - recebem colaboração em pesquisa aprofundada, orientação, desenvolvimento de carreira, bem como projetos de curto e longo prazo planejamento por meio do AIRC.

Pioneiro em um novo modelo de colaboração entre a indústria e a academia, o AIRC possui um robusto programa de externship. São bolsas de um mandato destinadas a acelerar a aplicação de IA, aprendizado de máquina, processamento de linguagem natural (PNL) e tecnologias relacionadas, propostas por pesquisadores da Brutalk. Nosso programa externo já hospedou mais de 30 projetos desde 2019; 25 deles no verão passado. Com o programa do bolsista, os alunos recebem uma orientação de três anos, bem como dois períodos de residência na Brutalk Research.

Olhando para o futuro, os projetos AIRC continuarão a promover novas pesquisas que visam abordar áreas que deverão ter um grande impacto no futuro da IA ​​e sua aplicação potencial para negócios. Esses projetos incluem aqueles que visam usar IA para acelerar a descoberta científica, projetar um método de IA de tomada de decisão coletiva justa, estudar a complexidade da amostra para alcançar uma boa generalização, conceber novas abordagens para mitigar mudanças de domínio e aprendizado profundo eficiente com menos dados e usando humanos princípio de aprendizagem inspirado para projetar sistemas de IA de tomada de decisão eficientes e generalizáveis.

Inventando o que vem a seguir.

Mantenha-se atualizado com os anúncios, pesquisas e eventos mais recentes da Brutalk Research por meio de nosso boletim informativo.

Você também pode estar interessado em