Existem várias camadas de restrições que as empresas usam:

1- verificar se opções de desenvolvedor estão ativas 2- dependência de google play services -3 certificação da google play 4- google safetynet/play integrity 5- verificar bootloader destravado

A 1 é simples, só desativar se um app pedir, mas é bem enjoado se precisar ativar e desativar com frequência. A 2 é relativamente simples também, pois você pode usar o microg pra enganar os apps, ou simplesmente instalar o play services se não tiver preocupações d eprivacidade. O 3 já vai complicando, pois tem que ir num sistema da google que não lembro e registrar seu dispositivo, e pra isso, vai precisar dos play services instalado (talvez tenha módulo magisk pra driblar, mas não mexo com magisk pra saber). No 4 já complica muito, isso aí é uma série de apis de verificação que praticamente rom customizada nenhuma passa. Tem módulos pra driblar, mas acho que não funcionam 100%. No 5 já lascou de vez pra maioria dos aparelhos, pois a maioria não permite oficialmente instalar um sistema diferente (o que é um absurdo e precisa urgentemente de uma regulamentada). Acho que só os pixel e aquele tal de fairphone permitem isso

No geral, tem bastante banco que só verifica pelo play services (2), ou nem verifica em muitos casos (bb e nubank tenho aqui funcionando). Next já vi alguém tentar e não dar certo. Varia muito e só testando mesmo pra saber. Bom é testar primeiro com um celular antigo que esteja em desuso. A google parece querer incentivar que os apps comecem a usar essas estratégias mais avançadas de restrição, e já vi dizer que lá fora já usam, mas por aqui parece não ter essa tendência tão forte, apesar de que a porcaria do gov br já usa

Agora que parei pra ver e sua pergunta foi bem simples, eu que me perdi aqui e falei demais, disfarça... mas vou deixar aí caso sirva de ajuda

Nunca usei custom ROM mas pelo que vi, o principal problema é o boot loader desbloqueado, e não o OS em si. Conheço uma pessoa que usa o app do Nubank no crDroid e deu uns problemas na hora de autentificar, mas depois de uns ajustes pelo Magisk ta tudo funcionando normalmente.

Eu to feliz que a Motorola ta fazendo parceria com o GrapheneOS, porque os celulares vão ter esse OS de fábrica e não vai precisar abrir boot loader, o que evita a dor de cabeça.

No Android até o 10 ou 11 da pra burlar o safety net, mascarar o telefone como se fosse um modelo/rom oficial e esconder o root pelo magisk, resolvia todos os problemas com absolutamente todos apps EXCETO se o app checasse sei bootloader.

Infelizmente nada disso funciona mais e a solução hoje é usar telefone stock OU ficar limitado só nos apps que nao encanam. Não tem muito o que fazer