overview
O que é o Center for AI Safety (CAIS)?
O Center for AI Safety (CAIS) é uma organização sem fins lucrativos focada na segurança da IA, fundada em 2022 por Dan Hendrycks e Oliver Zhang, que capacita formuladores de políticas, pesquisadores e líderes da indústria a reduzir riscos em escala societal associados à IA. Ele alcança isso através do avanço da pesquisa em segurança, da construção da comunidade de pesquisa em segurança e da defesa de padrões de segurança. A missão principal do CAIS é mitigar riscos de alta consequência e em escala societal impostos pela inteligência artificial, em vez de operar como uma ferramenta de IA em si. A organização conduz pesquisa técnica e conceitual para identificar e abordar questões de segurança da IA, incluindo o desenvolvimento de benchmarks e métodos fundamentais para concretizar desafios técnicos, o estudo de comportamentos de IA enganosos e antiéticos, e a melhoria da confiabilidade e segurança da IA. Além disso, o CAIS expande o campo da pesquisa em segurança da IA fornecendo financiamento, infraestrutura de pesquisa como seu Compute Cluster, recursos educacionais e bolsas. Ele também aconselha líderes da indústria e formuladores de políticas para traduzir a pesquisa em segurança da IA em práticas do mundo real, aumentando a conscientização pública sobre os riscos da IA e informando a formulação de políticas.