A incorporação acelerada da inteligência artificial (IA) em diversos setores da sociedade, incluindo a Administração Pública, o setor privado e o Judiciário, levanta preocupações crescentes quanto aos limites éticos, responsabilidades jurídicas e à necessidade de regulamentação adequada. O Direito encontra-se diante do desafio de normatizar sistemas que, em grande medida, operam de forma autônoma, aprendem com os próprios dados e geram decisões que podem afetar diretamente direitos fundamentais.
Ainda que a IA seja essencialmente uma tecnologia, seu uso indiscriminado carrega implicações jurídicas importantes. Questões como responsabilidade civil por danos causados por decisões automatizadas, transparência algorítmica, proteção de dados pessoais e discriminação algorítmica estão no centro do debate regulatório em praticamente todos os países democráticos.
Um dos desafios centrais enfrentados pelo Direito é definir quem será responsabilizado por danos causados por sistemas autônomos. O Código Civil brasileiro (Lei nº 10.406/2002), em seu artigo 927, prevê a responsabilidade objetiva no caso de atividade de risco. Isso poderia ser aplicado, por analogia, à operação de determinados sistemas de IA, especialmente aqueles que atuam em áreas sensíveis, como saúde e finanças.
No entanto, a tradicional lógica de imputação de responsabilidade entre agente e vítima encontra impasses quando se analisa sistemas que tomam decisões de maneira independente. Como atribuir culpa a um programador ou usuário, se o sistema baseou sua decisão em aprendizado de máquina (machine learning) que extrapolou os dados originalmente inseridos?
É nesse contexto que se discute mundialmente o conceito de “responsabilidade algorítmica”, em que não apenas indivíduos, mas organizações, treinamentos de sistema e cadeias inteiras de fornecimento tecnológico poderiam ser responsabilizadas de maneira solidária por danos causados.
No ordenamento jurídico brasileiro, a Lei Geral de Proteção de Dados (Lei nº 13.709/2018 – LGPD) também desempenha papel relevante ao tratar dos agentes de tratamento. O artigo 42 prevê responsabilidade solidária entre controlador e operador por danos causados pelo tratamento de dados, o que inclui, por implicação, algoritmos que processam esses dados, inclusive os usados por IA.
Nesse sentido, quem implanta sistemas de IA que tratam dados pessoais deve garantir que esses sejam adequados, seguros e justos. Isso significa que decisões automatizadas fundamentadas nesses dados devem ser auditáveis, passíveis de explicação e compatíveis com os direitos dos titulares.
A IA, ao ser treinada com grandes volumes de dados, pode replicar — e até amplificar — preconceitos existentes na sociedade, gerando decisões discriminatórias, especialmente em contextos como concessão de crédito, processos seletivos e sentenças judiciais automatizadas.
Essa prática conflita diretamente com os direitos fundamentais previstos pela Constituição Federal, como a dignidade da pessoa humana (art. 1º, III), a igualdade (art. 5º, caput) e a não discriminação (art. 3º, IV). O uso de IA que discrimine grupos vulneráveis representa clara violação do princípio da isonomia e pode ser objeto de controle judicial, administrativo e até legislativo.
É por isso que vários projetos de lei em tramitação no Congresso Nacional — inclusive o PL 2338/2023 — propõem mecanismos de validação prévia, auditoria e certificação desses sistemas para garantir que estejam em conformidade com os princípios constitucionais.
Outro aspecto crucial para o Direito é a exigência de que os sistemas de IA sejam transparentes e explicáveis. Afinal, os indivíduos têm direito de saber como e por que uma decisão que os afeta foi tomada.
No direito comparado, princípios como o “right to explanation”, oriundo do GDPR europeu, têm influenciado fortemente a discussão brasileira. A LGPD já incorporou esse princípio de forma mitigada no artigo 20, ao prever que o titular dos dados tem direito de solicitar a revisão de decisões tomadas exclusivamente com base em tratamento automatizado de dados pessoais.
Porém, a eficácia dessa norma depende da capacidade técnica e jurídica de auditar algoritmos complexos, o que exige formação especializada da advocacia, do Judiciário e dos órgãos de controle.
Nesse contexto, o aprofundamento em temas como governança algorítmica, boas práticas em projetos de IA e suas implicações jurídicas torna-se essencial para os profissionais do Direito. Para quem busca se atualizar, o curso Certificação Profissional em Inteligência Artificial na Advocacia oferece uma abordagem sólida e prática sobre o tema.
O ordenamento jurídico brasileiro ainda não conta com uma lei específica que regule de forma abrangente o uso da inteligência artificial. Contudo, há movimentos legislativos em andamento que visam preencher essa lacuna.
O desafio está em criar um marco normativo que equilibre a inovação tecnológica com a proteção de direitos fundamentais. Um excesso de regulação pode inviabilizar o avanço tecnológico, enquanto a ausência de normas coloca em risco a segurança jurídica, a privacidade e a liberdade individual.
É nesse cenário que surge a ideia de regulação baseada em risco, já adotada pela União Europeia através do seu Artificial Intelligence Act. A ideia é classificar os sistemas de IA segundo o grau de risco que representam para os direitos fundamentais e estabelecer regimes regulatórios escalonados para cada nível.
No Brasil, essa perspectiva tem sido debatida em audiências públicas e propostas legislativas, visando compatibilizar o desenvolvimento nacional com padrões éticos e jurídicos alinhados ao Estado Democrático de Direito.
A complexidade da regulação da IA impõe ao advogado um novo papel: o de interlocutor entre o campo jurídico, o tecnológico e o regulatório. Isso exige que a advocacia domine não apenas os institutos clássicos do Direito, mas também adquira fluência nos fundamentos técnicos da IA, na lógica algorítmica, nos princípios da governança de dados e no raciocínio computacional.
Trata-se de uma mudança de paradigma que abre diversas oportunidades profissionais, especialmente na assessoria preventiva, estruturação de compliance de IA, defesa de titulares de direitos em decisões automatizadas e participação nos debates regulatórios.
Para quem atua ou deseja atuar nessa interseção entre Direito e Tecnologia, a formação adequada será o grande diferencial competitivo. A Pós-Graduação em Direito e Novas Tecnologias oferece uma formação abrangente e atualizada sobre esses temas emergentes e estratégicos.
A inteligência artificial já é uma realidade que impacta significativamente o exercício da profissão jurídica. Compreender suas implicações legais, dominar as inovações tecnológicas e participar ativamente do debate sobre sua regulação é uma exigência crescente para profissionais comprometidos com a excelência e a ética.
O Direito não pode mais ser indiferente à lógica algorítmica que rege muitas decisões na sociedade contemporânea. Cabe aos juristas assumirem o protagonismo na construção de limites, salvaguardas e parâmetros jurídicos para garantir que a inovação tecnológica esteja a serviço da justiça, e não em seu lugar.
Quem ensina aqui atua na área — professores com banca, cátedra e prática.
Ver as pós em Direito