Em 19 de outubro, o professor Rodolfo Pacagnella, do Departamento de Tocoginecologia da Faculdade de Ciências Médicas (FCM) da Unicamp, participou como debatedor em audiência pública sobre Inteligência Artificial (IA) na área da saúde, no Senado Federal. O docente integrou de maneira remota a reunião.   

Os senadores debateram com professores de medicina, ciência da computação e direito, além de gestores públicos, os possíveis usos dessa tecnologia na área. O professor da FCM participou a convite do senador Carlos Viana, presidente da Comissão Temporária Interna sobre Inteligência Artificial. Na ocasião, os especialistas discutiram o Projeto de Lei 2338/2023, que versa sobre o tema.

Segundo Rodolfo, é importante que a população em questão conste, de fato, nos dados de origem das ferramentas de IA. “Qualquer regulamentação precisa desenvolver formas de geração e curadoria de dados que sejam representativos da população brasileira, o que inclui todas as minorias e as populações sub-representadas”.

Continua o professor: “Com isso, a gente busca nesses sistemas de IA aplicados à medicina eficácia e segurança, que não estão especificados de forma clara no projeto de lei. Sistema eficaz é aquele que apresenta velocidade, escalabilidade, acurácia, estabilidade e custo-efetividade. Também é preciso garantir a confiabilidade, já que se trata de dados sensíveis das pessoas. Algumas soluções possíveis são a validação externa por órgãos reguladores técnicos setoriais”.

Além disso, Rodolfo aponta ser necessário um processo contínuo e dinâmico de avaliação desse sistema. Assim, o projeto de lei precisa considerar, entre outros: o que é decisão humana nesse processo; como os modelos de IA devolvem as respostas; e a responsabilização solidária, ou seja, que vai além dos desenvolvedores dos sistemas, considerando também administradores hospitalares, equipes de saúde e consultores em tecnologia.

Por fim, o docente destaca a fala do professor Edson Amaro Júnior, da Faculdade de Medicina da USP, que trouxe a questão da dinâmica da tecnologia e da necessidade de regulação setorial. O colega citou o exemplo do ChatGPT, cujos desenvolvedores detectaram, ainda em 2017, que a ferramenta tinha capacidade de identificar emoções no texto, funcionalidade que não havia sido planejada originalmente.

Veja também

Audiência pública: Comissão sobre Inteligência Artificial debate usos da tecnologia na saúde

IA: debatedores veem avanços na saúde e pedem regulamentação menos detalhada

Professor Rodolfo Pacagnella, do DTG, ministra treinamento em Obstetrícia da OMS em Moçambique