Meu roteador doméstico se conecta ao ISP via cabo coaxial (Verizon FIOS ou Comcast Xfinity, aqui nos EUA). Ajustando-se ao modelo de camada OSI 7, qual protocolo da camada 1 (coaxial?) E da camada 2 (ainda Ethernet?) ele usa para se comunicar com o ISP?
Comcast Xfinity, como todos os ISPs que também são provedores de TV a cabo, usa DOCSIS. Provavelmente versão 3.0.
O DOCSIS define as camadas 1 e 2. Ele define a camada física como sinais de RF entre 5MHz e 1GHz em cabo coaxial de 75ohm em determinados níveis de potência e canalizados em canais de 6MHz (para a América do Norte e outros mercados de TV NTSC/ATSC) ou canais de 8MHz ( EuroDOCSIS, para mercados de TV PAL) assim como canais de TV locais, para que possa usar frequências de canal de TV não utilizadas no cabo de TV a cabo para não interferir na recepção de TV a cabo. Ele também define a camada de link, mas é um pouco mais complicado de descrever aqui.
DOCSIS significa "Data Over Cable System Interface Specification" e foi desenvolvido pela CableLabs, um consórcio da indústria de TV a cabo. Acredito que os padrões DOCSIS podem ser baixados gratuitamente do CableLabs e bastante legíveis como padrões técnicos (o que não quer dizer muito).
Verizon FiOS começou como BPON, mas está em transição para GPON ([Broadband|Gigabit] Passive Optical Network). O padrão BPON é ITU-T G.983. GPON é ITU-T G.984. Esses padrões PON também especificam as camadas 1 e 2.
Se você obtém seu serviço de Internet de banda larga de uma empresa de telefonia fixa que ainda não foi para BPON/GPON, provavelmente é um tipo de DSL (Digital Subscriber Line), provavelmente ADSL2+ ou VDSL2 hoje em dia. Novamente, os padrões *DSL especificam as camadas física e de enlace de dados.
Observe que estou realmente dizendo qual protocolo seu modem de banda larga ou fibra ONT fala com o ISP. Se o seu roteador não tiver um modem integrado ou ONT, ele usará sua porta Ethernet WAN para falar com o modem autônomo ou ONT.