A inteligência artificial está cada vez mais presente na rotina dos brasileiros, seja nas redes sociais, nos aplicativos, nas instituições financeiras, nos processos seletivos de emprego ou nos serviços públicos. Mas, à medida que essa tecnologia avança, também crescem as preocupações sobre privacidade, discriminação, manipulação de informações e decisões tomadas por sistemas automatizados. Para estabelecer limites e garantir direitos aos cidadãos, o Congresso Nacional discute a criação do Marco Legal da Inteligência Artificial, que poderá mudar a maneira como empresas e órgãos públicos utilizam essas ferramentas no país.

A proposta, concentrada no Projeto de Lei (PL) 2338/2023, aprovado pelo Senado Federal em dezembro de 2024, está em análise na Câmara dos Deputados. O texto estabelece princípios, direitos, deveres e mecanismos de fiscalização para o desenvolvimento e a utilização da inteligência artificial no Brasil. A principal mudança prevista é ampliar o controle dos cidadãos sobre sistemas que utilizam seus dados, avaliam seu comportamento ou influenciam decisões que podem afetar diretamente suas vidas.

É importante destacar que o Marco Legal ainda não foi aprovado definitivamente e, portanto, suas regras não estão em vigor. Os efeitos práticos dependerão da conclusão da tramitação, da redação final e da regulamentação da futura legislação.

O que pode mudar na vida dos brasileiros?

Uma das principais novidades previstas é o direito de questionar decisões tomadas exclusivamente por sistemas de inteligência artificial. Na prática, uma pessoa que tiver um pedido de crédito negado, for prejudicada em um processo seletivo ou sofrer alguma decisão automatizada que afete seus direitos poderá solicitar informações sobre os critérios utilizados e pedir uma revisão humana, conforme as condições previstas no projeto.

A proposta também estabelece exigências para o uso de dados pessoais. Empresas e instituições que utilizarem inteligência artificial deverão respeitar a Lei Geral de Proteção de Dados (LGPD), com atenção especial às informações consideradas sensíveis. A intenção é evitar que dados particulares sejam utilizados de maneira inadequada ou sem as devidas garantias de proteção.

Outro ponto que poderá impactar diretamente o cotidiano é a identificação de conteúdos produzidos artificialmente. Com o avanço de ferramentas capazes de criar imagens, áudios e vídeos realistas, o projeto prevê mecanismos de identificação e rastreabilidade desses materiais, contribuindo para que os usuários consigam reconhecer conteúdos sintéticos e tenham mais informações sobre sua origem.

A proposta ainda estabelece medidas para combater a discriminação provocada por algoritmos. Isso significa que sistemas utilizados para avaliar pessoas não deverão reproduzir preconceitos ou criar tratamentos desiguais com base em características pessoais ou sociais.

Regras mais rígidas para empresas e poder público

O projeto adota uma classificação baseada no nível de risco de cada sistema. Quanto maior a possibilidade de causar danos às pessoas ou comprometer direitos fundamentais, maiores serão as exigências de controle e fiscalização.

Ferramentas utilizadas em atividades consideradas de alto risco, como saúde, educação, concessão de crédito, relações de trabalho e serviços públicos, poderão ficar sujeitas a avaliações de impacto, auditorias periódicas e mecanismos mais rigorosos de governança. A intenção é impedir que decisões importantes sejam tomadas sem critérios claros ou sem possibilidade de responsabilização.

No caso do poder público, a proposta prevê que a adoção de sistemas de inteligência artificial seja acompanhada de avaliações sobre possíveis impactos nos direitos fundamentais. O texto também estabelece restrições ao uso dessas tecnologias, incluindo a proibição de utilização de IA para explorar vulnerabilidades de grupos sociais, estimular práticas discriminatórias ou produzir conteúdos relacionados ao abuso e à exploração sexual de crianças e adolescentes.

Outro ponto previsto é a restrição ao uso de inteligência artificial para induzir comportamentos de maneira prejudicial e para desenvolver armas autônomas. Já o reconhecimento facial em espaços públicos não seria totalmente proibido, mas ficaria sujeito a hipóteses e condições específicas, como determinadas situações de busca de pessoas desaparecidas ou procuradas pela Justiça.

Quem será responsabilizado por danos causados pela IA?

As empresas que desenvolvem, oferecem ou utilizam sistemas de inteligência artificial também terão obrigações específicas. Entre elas estão a transparência sobre o funcionamento das ferramentas, a proteção das informações dos usuários, a possibilidade de auditoria e a adoção de mecanismos de supervisão humana em decisões relevantes.

A proposta estabelece regras de responsabilização por danos provocados pelo uso dessas tecnologias, considerando a participação de cada agente na cadeia de desenvolvimento e utilização dos sistemas.

Para a inteligência artificial generativa, capaz de produzir textos, fotografias, vídeos e áudios, o projeto prevê medidas específicas de identificação e rastreabilidade. A iniciativa busca reduzir a circulação de materiais artificiais apresentados como verdadeiros, especialmente em situações que possam prejudicar pessoas ou manipular informações.

Como será feita a fiscalização?

A proposta prevê a criação do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), com coordenação da Autoridade Nacional de Proteção de Dados (ANPD). A estrutura deverá contar com a participação de órgãos do Poder Executivo, instâncias de cooperação regulatória e especialistas.

A fiscalização terá como objetivo acompanhar o cumprimento das regras, avaliar riscos e estabelecer parâmetros para o desenvolvimento e a utilização responsável da tecnologia no Brasil.

O que acontece enquanto o projeto não vira lei?

Até a aprovação definitiva do Marco Legal, as novas obrigações previstas no PL 2338/2023 não entram em vigor. Isso, porém, não significa que empresas e instituições estejam livres para utilizar inteligência artificial sem limites.

A Lei Geral de Proteção de Dados, o Código de Defesa do Consumidor e as normas que combatem práticas discriminatórias já oferecem instrumentos jurídicos para enfrentar abusos envolvendo o uso dessas ferramentas.

O debate sobre a regulamentação da inteligência artificial, portanto, vai além do desenvolvimento tecnológico. Envolve direitos individuais, relações de consumo, oportunidades de trabalho, segurança da informação e a atuação do Estado.

Se aprovado, o Marco Legal poderá estabelecer uma nova relação entre os brasileiros e a inteligência artificial: o cidadão terá mais instrumentos para saber quando seus dados são utilizados, compreender como determinadas decisões são tomadas e contestar resultados automatizados que afetem seus direitos. A proposta busca fazer com que o avanço da tecnologia seja acompanhado de transparência, fiscalização e responsabilidade.

Polêmica Paraiba