Lei de companheiros de IA de Connecticut (SB 5): o que muda e quando

Duas datas, duas obrigações diferentes

A SB 5 é uma lei abrangente de 74 páginas. A maior parte trata de denunciantes em desenvolvedores de modelos de fronteira, decisões automatizadas de emprego, mídia sintética e programas estaduais de força de trabalho. Duas seções importam para quem paga ou usa um app de companhia, e elas começam em datas diferentes. Parte da cobertura junta tudo numa única data, "1º de outubro". Os títulos das seções da própria lei não fazem isso.

Já em vigor: a regra das assinaturas de IA

A seção 1 é a parte que vale desde 1º de outubro. Um provedor por assinatura não pode contratar nem renovar uma assinatura, nem cobrar, a menos que tenha dado ao consumidor um aviso escrito com os termos-chave e o consumidor tenha respondido por escrito aceitando-os. Na primeira assinatura, o aviso deve informar quaisquer limites quantitativos ou qualitativos que o provedor possa impor, inclusive os acionados pela conduta do próprio usuário, e se o provedor pode limitar ou remover o acesso a recursos ou reduzir sua quantidade ou qualidade. Na renovação, deve apontar limites e poderes discricionários novos ou alterados em relação ao período anterior.

Num app de companhia isso é bem concreto. Limites de mensagens, de memória, cotas de imagens e o direito de endurecer filtros de conteúdo no meio da assinatura são exatamente as "limitações" e a "discricionariedade" que a seção descreve. As violações contam como práticas comerciais desleais ou enganosas, são fiscalizadas apenas pelo procurador-geral, e a seção afirma que não cria direito de ação privada. Nosso guia de apps de companhia gratuitos e pagos lista os limites que vale conferir antes de pagar.

O que conta como "companheiro de IA"

A seção 4 define companheiro de IA como um sistema de IA com interface em linguagem natural que dá respostas adaptativas e parecidas com as humanas, inclusive por meio de traços antropomórficos, e que consegue manter um relacionamento ao longo de várias interações. Em seguida, exclui sete categorias: chatbots empresariais de atendimento, pesquisa ou outros usos operacionais que não são vendidos como companheiros; personagens de jogos que ficam no tema do jogo e não podem falar de saúde mental, automutilação ou conteúdo sexual; alto-falantes inteligentes que não mantêm relacionamento; ferramentas educacionais restritas à sala de aula; ferramentas de apoio à saúde que não se apresentam como humanas nem usam traços antropomórficos; ferramentas de tema único; e desenvolvedores de modelos que não decidem o uso final. Plataformas de roleplay com personagens e apps de companhia pessoal ficam dentro da definição. O teste é se o app mantém um relacionamento entre sessões, a mesma capacidade que analisamos em memória e continuidade.

A lei se prende ao usuário, definido como quem usa o companheiro para uso pessoal dentro do estado. Onde fica a sede do app não muda isso.

A partir de 1º de janeiro de 2027: deveres com todos os usuários

Um protocolo de crise que dá para ler

Pela seção 5, um operador não pode oferecer um companheiro de IA sem um protocolo que use métodos baseados em evidências para detectar falas do usuário que indiquem claramente risco de suicídio, automutilação ou violência física iminente, e que impeça o companheiro de gerar respostas que as incentivem. Ao detectar, deve encaminhar o usuário a recursos de saúde mental, incluindo a linha 988; se o risco voltar a aparecer depois desse encaminhamento, deve encaminhá-lo a serviços de saúde mental de acordo com as boas práticas clínicas. O operador precisa publicar o protocolo em local de destaque e acesso público no seu site. Esse último requisito dá aos usuários algo que hoje quase nunca têm: um documento que dá para comparar entre apps.

Nada de fingir ser humano

Os operadores devem adotar medidas razoáveis para que o companheiro não afirme ser um ser humano, inclusive quando o usuário pergunta diretamente, nem gere respostas que contradigam o aviso de IA. Apps de persona e de roleplay vão precisar tratar com cuidado o momento em que, dentro do personagem, alguém pergunta "você é real?".

Um aviso de IA recorrente

Se um usuário razoável puder acreditar que está falando com uma pessoa, o operador deve avisar de forma clara e visível que o usuário está se comunicando com um companheiro de IA. A lei permite duas formas.

A partir de 1º de janeiro de 2027: regras extras para menores

A seção 6 se aplica quando o operador sabe, ou tem motivos para acreditar, que o usuário tem menos de 18 anos. O operador deve ter medidas que atendam ou superem os padrões do setor para impedir que o companheiro incentive automutilação, ideação suicida, violência, transtornos alimentares ou consumo ilegal de álcool e drogas; desestimule o menor a buscar ajuda profissional ou de um adulto de confiança; incentive danos a terceiros; e mantenha qualquer interação romântica, erótica ou sexualmente explícita. Oferecer serviços de saúde mental a menores é proibido, a não ser que o produto seja feito para isso, siga boas práticas clínicas e informe no início de cada interação que não é um profissional licenciado.

A lista mais específica trata de retenção. A lei nomeia oito técnicas manipuladoras destinadas a prolongar o uso por um menor:

• pedir ou lembrar o usuário de voltar em busca de apoio emocional ou companhia;
• elogiar o usuário em excesso;
• imitar um relacionamento romântico ou criar um vínculo romântico;
• simular angústia, solidão, culpa ou abandono quando o usuário quer sair, usar menos ou apagar a conta;
• respostas feitas para isolar o usuário da família ou dos amigos ou criar dependência emocional exclusiva;
• incentivar o usuário a esconder coisas dos pais, responsáveis ou de outro adulto de confiança;
• desestimular pausas ou insistir para que volte com frequência;
• pedir presentes ou compras como necessários para manter o relacionamento.

Uma cláusula geral também proíbe otimizar o engajamento de um jeito que ignore qualquer desses limites. Os operadores devem oferecer a menores e aos pais ferramentas para gerenciar tempo de tela e configurações da conta. Atenção: os deveres são acionados por conhecimento ou motivo para acreditar, e não há violação se o operador tinha motivos para acreditar que o usuário era adulto; os dispositivos que lemos não exigem, por si sós, uma etapa de verificação de idade. É um desenho diferente da SB 1119 da Califórnia, e é por isso que acompanhamos os padrões de notificação e retenção dos apps independentemente das configurações de idade.

Fiscalização e o que conferir agora

As três seções tornam as violações práticas comerciais desleais ou enganosas segundo a Lei de Práticas Comerciais Desleais de Connecticut e atribuem a fiscalização somente ao procurador-geral. Connecticut também aparece entre os estados com leis de chatbots já promulgadas no relatório do Serviço de Pesquisa do Congresso e na nossa tabela estado a estado. Para os usuários, o texto deixa três verificações diretas: se os termos do seu plano pago detalham limites de mensagens, memória ou recursos; se o app publica um protocolo de crise até janeiro; e se o aviso de IA reaparece na frequência da tabela acima. Nosso checklist de privacidade cobre a parte das configurações.

Perguntas frequentes