Aprendizado de máquina diferencialmente privado em escala com JAX-Privacy

Desde recomendações personalizadas até avanços científicos, os modelos de IA estão ajudando a melhorar vidas e a transformar indústrias. Mas o impacto e a precisão destes modelos de IA são frequentemente determinados pela qualidade dos dados que utilizam. Conjuntos de dados grandes e de alta qualidade são cruciais para o desenvolvimento de modelos de IA precisos e representativos; no entanto, devem ser utilizados de forma a preservar a privacidade individual.

É onde JAX e JAX-Privacidade entre. Introduzido em 2020, JAX é uma biblioteca de computação numérica de alto desempenho projetada para aprendizado de máquina (ML) em grande escala. Seus principais recursos – incluindo diferenciação automática, compilação just in timee escalonamento contínuo em vários aceleradores — tornam-no uma plataforma ideal para construir e treinar modelos complexos com eficiência. JAX tornou-se uma pedra angular para pesquisadores e engenheiros que ultrapassam os limites da IA. Seu ecossistema circundante inclui um conjunto robusto de bibliotecas específicas de domínio, incluindo Linhoque simplifica a implementação de arquiteturas de redes neurais, e Optaxque implementa otimizadores de última geração.

Construído em JAX, o JAX-Privacy é um kit de ferramentas robusto para construir e auditar modelos diferencialmente privados. Ele permite que pesquisadores e desenvolvedores implementem de forma rápida e eficiente diferencialmente privado (DP) para treinar modelos de aprendizagem profunda em grandes conjuntos de dados e fornece as ferramentas básicas necessárias para integrar o treinamento privado em fluxos de trabalho modernos de treinamento distribuído. A versão original do JAX-Privacy foi introduzida em 2022 para permitir que pesquisadores externos reproduzissem e validassem alguns de nossos avanços no treinamento privado. Desde então, evoluiu para um centro onde as equipes de pesquisa do Google integram seus novos insights de pesquisa em treinamento de DP e algoritmos de auditoria.

Hoje temos o orgulho de anunciar o lançamento do JAX-Privacidade 1.0. Integrando nossos mais recentes avanços de pesquisa e reprojetada para modularidade, esta nova versão torna mais fácil do que nunca para pesquisadores e desenvolvedores construir pipelines de treinamento de DP que combinam algoritmos de DP de última geração com a escalabilidade fornecida pelo JAX.