or Anthony Habayeb, CEO fundador da Monitaur, uma empresa de governança de IA e garantia de ML.

No início desta semana, estive em San Diego como palestrante e convidado do Encontro Nacional da National Association of Insurance Commissioners (NAIC)  . Tive a oportunidade de compartilhar algumas de minhas próprias visões e opiniões com o Grupo de Trabalho de Big Data e Inteligência Artificial. Eu também tive a oportunidade de participar de reuniões com as principais partes interessadas envolvidas na consideração dos próximos passos em direção à supervisão regulatória da IA.

2021 viu uma aceleração material no interesse regulatório e na postura em relação ao uso de IA - tanto dentro dos seguros quanto de forma mais ampla. Desde o Conselho da Cidade de Nova York que cria legislação para  controlar os preconceitos da IA ​​durante o processo de contratação  até a orientação da  Federal Trade Commission  sobre como construir e implantar IA responsável e modelos de aprendizado de máquina, órgãos governamentais nos Estados Unidos demonstraram interesse em regulamentar a IA . Para as seguradoras com exposição europeia, uma  atualização recém-lançada da Lei de IA proposta da Europa  agora coloca especificamente o uso de IA da indústria de seguros na categoria de “alto risco”.

Em agosto de 2020, o  NAIC apresentou princípios de IA . Ao longo do ano passado, seu foco foi obter mais dados sobre exatamente onde o setor de seguros está no uso de IA. A prioridade era ter uma noção de como as regulamentações poderiam impactar o uso de tecnologias de IA pela indústria. Durante o Big Data Working Group, uma primeira amostra pública foi oferecida aos resultados de  uma pesquisa com transportadoras de bens e acidentes e seu uso de IA . Os resultados mostram uma ampla aplicação de IA nas funções básicas desse grupo de seguradoras. Este grupo de trabalho provavelmente expandirá a pesquisa para proprietários de residências e ramos de negócios de seguros de vida nos próximos meses.

O desafio de regular a IA não é insignificante. Os reguladores precisam equilibrar a proteção dos consumidores com o apoio à inovação. Vários temas são evidentes sobre a perspectiva regulatória sobre o uso de IA em seguros:

• Uma apreciação de que IA é um sistema complexo resultante de ações, decisões e dados dirigidos por uma equipe de partes interessadas ao longo de todo o ciclo de vida de um sistema.
• Um entendimento de que a regulamentação precisará incluir evidências de uma ampla governança do ciclo de vida e análises objetivas das principais práticas de gestão de risco.
• Acordo entre os reguladores de que eles são amplamente despreparados para realizar, com a equipe reguladora do estado, exames técnicos profundos ou análises forenses de sistemas de IA. Para ter sucesso na supervisão regulatória, eles precisam de mais educação, parcerias com organizações mais especializadas e algum grau de responsabilidade comprovada pela operadora no futuro.
• A possibilidade de que o material formativo e definidor de regulamentos tenham que ser forjados no nível federal - não apenas nos departamentos estaduais de seguros.

Relembrando minhas conversas em San Diego - e ao longo de todo o ano -, tenho mais um ponto de reflexão: todos podemos nos beneficiar se formos mais diretos. Onde a regulamentação específica da IA ​​começa ou termina? Como as seguradoras deveriam mudar fundamentalmente para melhor atender às classes freqüentemente carentes de nossa população?

Minha carreira não foi em seguros. No entanto, rapidamente percebi que muitas das conversas justas e tendenciosas nos locais de governança de IA não são de forma alguma exclusivas da governança de IA. Em vez disso, são questões e considerações maiores sobre o equilíbrio dos fatores de classificação de risco apropriados e a correlação que esses fatores podem ter com o tratamento justo de certas classes de nossa população. Concordo 100% que temos disparidades e injustiças econômicas e quero ver mercados mais inclusivos; no entanto, eu odiaria ver práticas de governança importantes e muito necessárias que melhoram os princípios-chave como transparência, segurança e responsabilidade aguardando acordos, em minha opinião, nas discussões muito maiores e difíceis sobre justiça.

Sempre ouvi de reguladores e partes interessadas do setor em San Diego que o seguro está passando por um renascimento da tecnologia. Parece que há um consenso de que o modo como a regulamentação funciona hoje não é o que precisamos da regulamentação no futuro. De certa forma, aumentar o foco da NAIC em IA por meio  da criação de um novo “comitê de cartas” (H) de mais alto nível  - apenas o oitavo comitê na história de 150 anos da NAIC - é um tremendo reconhecimento dessa realidade.

O próximo ano fornecerá uma perspectiva mais aprofundada sobre a abordagem dos reguladores de seguros para o uso de IA. Veremos o Colorado a definir melhor as práticas e planos para o SB21-169: Restringir o uso de dados externos do consumidor pelas  seguradoras . Provavelmente veremos alguma política federal ou desenvolvimento de lei que poderia até ser algo como HR 5596: a  Lei de Justiça Contra Algoritmos Maliciosos de 2021 .

O que as operadoras devem fazer agora com todas essas peças móveis? No mínimo, as seguradoras devem organizar internamente as principais partes interessadas relacionadas à estratégia e ao desenvolvimento de IA para avaliar de forma colaborativa como definem e desenvolvem projetos e modelos de IA. Se as operadoras ainda não estabeleceram uma governança ampla do ciclo de vida ou práticas de gerenciamento de risco exclusivas para seus sistemas de IA / machine learning, elas devem começar essa jornada com pressa.