Como você decide onde um determinado pedaço de estado deve morar?

Comece o mais local possível, dentro do componente que usa, e suba só até o ancestral comum mais próximo quando irmãos realmente precisarem compartilhar. Se for dado de servidor, ele pertence a uma camada de dados com cache, não ao estado de componente. Se o usuário deveria conseguir mandar um link para aquilo, como filtros ou a aba atual, coloque na URL. Uma store global é o último recurso.

Meu primeiro movimento é descobrir que tipo de estado é aquilo, porque a maioria das coisas que as pessoas chamam de estado não é estado local de verdade. Se veio do servidor, vai para um cache de query, aí eu ganho deduplicação, revalidação e tratamento de obsolescência em vez de fazer isso na mão com useState e um efeito. Se deve sobreviver a um refresh ou ser compartilhável como link, tipo os filtros ativos ou qual aba está aberta, vai para a URL. O que sobra é estado de UI de verdade, e isso começa no componente que usa. Eu só iço quando um segundo componente realmente precisa, e mesmo assim só até o pai comum mais próximo. Stores globais eu guardo para coisas que são de fato de aplicação inteira, como o usuário atual ou uma conexão websocket. A falha que eu mais limpei foi estado que foi içado para um provider no topo porque dois componentes precisaram dele uma vez, e dois anos depois tudo re-renderiza a cada tecla e ninguém tem coragem de trazer de volta para baixo.