Google, Openai, Roblox e Discord formaram uma nova organização sem fins lucrativos para ajudar a melhorar a segurança infantil online. A iniciativa robusta de ferramentas de segurança on-line aberta (ROOST) visa tornar as tecnologias principais de segurança mais acessíveis para as empresas e fornecer ferramentas gratuitas de IA de código aberto para identificar, revisar e relatar material de abuso sexual infantil.
A iniciativa foi parcialmente motivada por mudanças que os avanços generativos de IA fizeram em ambientes on -line e pretendem abordar “uma necessidade crítica de acelerar a inovação na segurança infantil on -line”, de acordo com o parceiro fundador da Roost e o ex -CEO do Google, Eric Schmidt. Detalhes sobre as ferramentas de detecção do CSAM são pequenos além disso, utilizarão modelos de IA de grande idioma e “unificarão” as opções existentes para lidar com o conteúdo.
“Começando com uma plataforma focada na proteção da criança, a abordagem colaborativa e de código aberto de Roost promoverá a inovação e tornará a infraestrutura essencial mais transparente, acessível e inclusiva, com o objetivo de criar uma Internet mais segura para todos”, disse Schmidt.
Alguns membros fundadores da Rout, como a Discord, estão fornecendo financiamento, enquanto outros estão abrindo suas ferramentas ou conhecimentos para o projeto. A Roost diz que está em parceria com os principais desenvolvedores de modelos da AI Foundation para construir uma “comunidade de prática” para salvaguardas de conteúdo, que incluirá o fornecimento de conjuntos de dados de treinamento de IA vertido e a identificação de lacunas em segurança.
A iniciativa diz que fabricará “ferramentas que já existem” mais acessíveis, combinando efetivamente várias detecções e relatórios de tecnologia de suas organizações membros em uma solução unificada que é mais fácil para outras empresas implementarem. Naren Koneru, vice -presidente de engenharia, confiança e segurança da Roblox, disse Empresa rápida Esse rotet pode hospedar sistemas de moderação de IA que as empresas podem integrar através de chamadas de API. Há alguma ambiguidade sobre o que as ferramentas de moderação da AI de Roost incluirão, no entanto.
Juntamente com sua participação no Roost, a Discord lançou um novo recurso “ignorar” que permite que os usuários ocultem mensagens e notificações que recebem sem notificar as pessoas que tocaram. “Na Discord, acreditamos que a segurança é um bem comum”, disse o diretor jurídico da Discord, Clint Smith, no anúncio de poleiro. “Estamos comprometidos em fazer toda a Internet – não apenas a discórdia – um lugar melhor e mais seguro, especialmente para os jovens”.
A Roost arrecadou mais de US $ 27 milhões para apoiar seus primeiros quatro anos de operações, apoiados por organizações filantrópicas, incluindo a McGovern Foundation, Future of Online Trust and Safety Fund, Knight Foundation e The IA Collaborative. A Organização de Pedra também será apoiada por especialistas em segurança infantil, inteligência artificial, tecnologia de código aberto e “combate ao extremismo violento” de acordo com o comunicado à imprensa.
