As novas regras também preveem que o ChatGPT possa encerrar automaticamente conversas quando identificar sinais de fixação em violência. Se isso ocorrer repetidas vezes, a OpenAI poderá suspender temporariamente a conta do usuário.

Entre as mudanças específicas para adolescentes, a empresa vai limitar o fornecimento de informações práticas sobre armas e sistemas de segurança que possam ser usadas de forma indevida, mesmo quando não houver sinais de intenção violenta.

Outra mudança envolve o sistema usado pela OpenAI para estimar a idade dos usuários. A empresa afirmou que aprimorou a tecnologia para direcionar à versão voltada a menores de 18 anos aqueles que o sistema identificar como adolescentes.

Para todos os usuários, a empresa ainda vai reduzir o nível de detalhe fornecido sobre ataques em massa ocorridos no passado, incluindo informações sobre as armas utilizadas e como elas foram obtidas.

Segundo a OpenAI, as novas medidas de segurança começarão a ser implementadas nas próximas semanas e continuarão sendo aprimoradas.

As mudanças foram anunciadas em meio a discussões sobre a segurança de adolescentes que usam ferramentas de inteligência artificial.

No início deste mês, a OpenAI informou que esse público passa, em média, menos de 15 minutos por dia usando o ChatGPT. O dado consta do primeiro relatório da empresa sobre o uso do serviço por adolescentes.

Também neste mês, um relatório da organização sem fins lucrativos Common Sense Media apontou falhas nos alertas enviados aos pais pela versão do ChatGPT voltada a adolescentes.

Segundo a entidade, esses avisos frequentemente chegam tarde demais ou sequer são enviados quando adolescentes mantêm conversas sobre suicídio, automutilação ou transtornos alimentares.