A OpenAI lançou novos controles parentais para o ChatGPT, um dos chatbots de IA generativa mais populares da internet.

Esses controles permitem que pais ou responsáveis vinculem suas contas às de seus filhos adolescentes e personalizem configurações para garantir uma experiência mais segura e adequada à idade.

Como funcionam os novos controles:Um dos pais envia um convite para o adolescente conectar as contas. Depois que o jovem aceita, o responsável passa a ter acesso a um painel de controle onde pode ajustar as configurações da conta do adolescente. Também é possível que o próprio adolescente convide um responsável para se conectar.

Caso o adolescente desvincule a conta, o responsável será notificado automaticamente.

Além disso, as contas de adolescentes vinculadas recebem proteções adicionais de conteúdo — incluindo filtros contra material gráfico, desafios perigosos, e bloqueios de roleplays de teor sexual, romântico ou violento, além da limitação de temas ligados a padrões de beleza extremos.

Os responsáveis podem desativar essas proteções se desejarem, mas os adolescentes não têm permissão para alterar essas configurações.

“Já passou da hora de ter medo”: pessoas reagem à polêmica ascensão dos atores criados por IA

Atores criados por IA como a “atriz” de IA Tilly Norwood gerou forte repercussão negativa em Hollywood, já comparada a uma nova Scarlett Johansson. É óbvio que isso vai acontecer É preciso enxergar o entretenimento filmado sob a ótica econômica, não artística. A IA não está aí para criar grandes obras, mas para cortar custos, eliminar talentos humanos e acelerar processos. A Netflix, por exemplo, caminha para os 300 milhões de assinantes, faturando cerca de US$ 40 bilhões contra US$ 17 bilhões em gastos com conteúdo. O caminho mais curto para aumentar o lucro é baratear ainda mais esse conteúdo por meio de processos automatizados. A empresa já usa inteligência artificial para decidir o que produzir, oferecendo um cardápio que vai da arte mais sofisticada ao entretenimento mais descartável, sempre projetado para manter diferentes públicos engajados. O Poder do Cachorro não foi feito por devoção à arte, mas para reter os assinantes mais exigentes. Da mesma forma, O Amor às Cegas, disponível em dezenas de idiomas, existe para segurar o público de reality shows. Se a IA permitir que esses gigantes — mais empresas de tecnologia do que estúdios — produzam mais conteúdo, mais rápido e a custos menores, não …

Principais recursos para pais

Através de uma página de controle dedicada, os pais poderão acessar e configurar diversas opções, incluindo:

• Definir horários de uso, estabelecendo períodos em que o ChatGPT não pode ser acessado;
• Desativar o modo de voz, removendo a possibilidade de interagir com o chatbot por meio de áudio;
• Desligar a função de memória, impedindo que o ChatGPT armazene informações para personalizar respostas futuras;
• Bloquear a geração de imagens, evitando que o chatbot crie ou edite imagens;
• Optar por não contribuir para o treinamento de modelos, garantindo que as conversas dos adolescentes não sejam usadas para aprimorar o ChatGPT.

“Esses controles parentais representam um bom começo para ajudar os pais a gerenciar como seus filhos adolescentes utilizam o ChatGPT”.

No entanto, o controle parental é apenas uma parte do processo de manter os adolescentes seguros online. A proteção é mais eficaz quando combinada com diálogos contínuos sobre o uso responsável da IA, regras familiares bem definidas e um envolvimento ativo dos pais para compreender o que seus filhos estão fazendo na internet.

Prevenindo o uso excessivo e a dependência da IA

Especialistas em tecnologia e segurança digital avaliaram positivamente a introdução dos novos controles parentais do ChatGPT, considerando a medida um avanço importante para a segurança online de adolescentes que utilizam chatbots de inteligência artificial.

Os controles representam “um passo na direção certa” para lidar com os riscos digitais enfrentados por jovens usuários. A iniciativa é especialmente relevante porque permite que os pais escolham as opções mais adequadas para suas famílias.

No entanto, a responsabilidade parental nem sempre é garantida. Nem todas as crianças vivem em lares cujos pais estão dispostos ou são capazes de zelar pelos seus melhores interesses online. Mesmo os pais que têm tempo e habilidades para monitorar o uso dos seus filhos precisam de ferramentas que facilitem isso, e é por isso que é positivo ver plataformas implementando esses sistemas.

A iniciativa da OpenAI demonstra uma preocupação crescente com os impactos da inteligência artificial sobre adolescentes. A OpenAI está sinalizando ao mercado que se preocupa com os danos causados aos jovens — um tema particularmente sensível no momento. As medidas representam “um bom começo” e podem ter um efeito preventivo: “Se as crianças sabem que suas interações são monitoradas, é menos provável que se envolvam em comportamentos problemáticos.”

Os novos controles oferecem às famílias uma oportunidade de estabelecer limites antes que a IA se torne uma dependência. “Há algo mágico em pensar naquela primeira linha criativa de um ensaio sem que a IA a entregue a você.

A IA é poderosa, mas em excesso pode sufocar a capacidade de uma criança de imaginar, lutar e criar. Os pais precisam intervir antes que os filhos terceirizem sua criatividade.

Companheiro Duvidoso

Especialistas em ética e segurança digital destacaram a importância dos novos controles parentais para chatbots de inteligência artificial, ressaltando os riscos associados ao uso não supervisionado dessas tecnologias por crianças e adolescentes.

A implementação de controles é essencial para evitar interações inapropriadas e potencialmente prejudiciais. Assim como protegemos o cérebro em desenvolvimento das crianças com sistemas de classificação de videogames e filmes, precisamos de controles para sistemas de IA. Essas plataformas utilizam "táticas poderosas e pessoais para envolver os usuários, independentemente da idade ou do estágio de desenvolvimento”.

Muitas crianças recorrem a chatbots não apenas para fins educacionais, mas também em busca de companhia e aconselhamento. “Elas podem ser influenciadas por erros de confiança, preconceitos sutis e pela intimidade artificial de um chatbot — fatores que podem causar diversos efeitos negativos.

A supervisão é indispensável sempre que menores têm acesso a sistemas de IA. “Desde que uma criança tenha acesso a um chatbot, os controles parentais são vitais para mantê-la segura, ou pelo menos para minimizar as chances de perigo.

Estabelecendo limites saudáveis para o uso da inteligência artificial

Os controles parentais para chatbots não têm o objetivo de afastar crianças das novas tecnologias, mas sim estabelecer limites em torno de sistemas que, por natureza, estão sempre disponíveis.

Esses sistemas, ao estarem constantemente ativos e agradáveis, podem representar riscos para crianças em situação de vulnerabilidade. Se uma criança passa mais tempo confiando em um bot do que em pessoas ao seu redor, isso deve ser interpretado como um sinal de alerta.

Medidas simples, como limitar a duração das sessões, definir restrições nas conversas ou sinalizar o uso noturno, podem ajudar a prevenir padrões de dependência. No entanto, afirmou que filtros sozinhos não são suficientes, sendo necessária a implementação de barreiras de proteção mais inteligentes, que priorizem o comportamento do usuário, e não apenas o conteúdo consumido.