O que o comando ioctl CDROMPLAYMSF faz exatamente?

Originalmente, as unidades de CD-ROM (na era IDE) tinham uma conexão de áudio analógica com a placa-mãe. Os comandos SCSI PLAY, STOP, SCANe suas variantes reproduziriam CDs de áudio nessa saída analógica exatamente como um CD player autônomo.

O CDROMPLAYMSFioctl emite um desses comandos SCSI, ou seja, PLAY AUDIO MSF. MSF define uma posição no CD (em Minutos, Segundos, Quadros).

Os CD-ROMs internos perderam esse recurso há muito tempo, assim como os CD-ROMs USB externos (não há conexão de áudio analógico com a placa-mãe). Portanto, seu CD player ignora esse comando com razão.

IIRC a libcdaudiobiblioteca também possui funções para ler os dados digitais do CD. Você precisa usá-los e, em seguida, passar os dados para o Pulseaudio etc. para reproduzir o CD.

Você também pode usar ferramentas de linha de comando prontas mplayer cdda://para isso.

Da fonte do kernel Linux :

CDROMPLAYMSF            Play Audio MSF (struct cdrom_msf)

    usage:

      struct cdrom_msf msf;
      ioctl(fd, CDROMPLAYMSF, &msf);

    inputs:
      cdrom_msf structure, describing a segment of music to play

    outputs:    none

    error return:
      ENOSYS    cd drive not audio-capable.

    notes:
      MSF stands for minutes-seconds-frames
      LBA stands for logical block address

      Segment is described as start and end times, where each time
      is described as minutes:seconds:frames.  A frame is 1/75 of
      a second.

Além disso, esta minha resposta pode ser útil para você: Obtenha todas as definições ioctl da fonte do kernel.

Eu encontrei a resposta para sua pergunta da mesma maneira, apenas mudei grepum pouco o comando:

grep -r 'CDROMPLAYMSF' * | vim -

EDITAR

de Compact_Disc_Digital_Audio#Data_structure:

O fluxo de dados de áudio em um CD de áudio é contínuo, mas tem três partes. A parte principal, que é dividida em faixas de áudio reproduzíveis, é a área do programa. Esta seção é precedida por uma faixa de entrada e seguida por uma faixa de saída. As faixas de entrada e saída codificam apenas áudio silencioso, mas todas as três seções contêm fluxos de dados de subcódigo.

O subcódigo do lead-in contém cópias repetidas do índice do disco (TOC), que fornece um índice das posições iniciais das faixas na área do programa e no lead-out. As posições das trilhas são referenciadas por timecode absoluto, relativo ao início da área do programa, no formato MSF: minutos, segundos e segundos fracionários chamados quadros. Cada quadro de código de tempo é um septuagésimo quinto de segundo e corresponde a um bloco de 98 quadros de dados de canal - em última análise, um bloco de 588 pares de amostras de áudio esquerda e direita. O código de tempo contido nos dados do subcanal permite que o dispositivo de leitura localize a região do disco que corresponde ao código de tempo no TOC. O índice em discos é análogo à tabela de partição em discos rígidos.

Além disso, de Compact_Disc_Digital_Audio#Frames_and_timecode_frames:

Em um CD de áudio Red Book, os dados são endereçados usando o esquema MSF , com timecodes expressos em minutos, segundos e outro tipo de quadros (mm:ss:ff), onde um quadro corresponde a 1/75 de segundo de áudio: 588 pares de amostras da esquerda e da direita. Este quadro de código de tempo é distinto do quadro de dados de canal de 33 bytes descrito acima e é usado para exibição de tempo e posicionamento do laser de leitura. Ao editar e extrair áudio de CD, esse quadro de código de tempo é o menor intervalo de tempo endereçável para um CD de áudio; assim, os limites de trilha ocorrem apenas nesses limites de quadro.Cada uma dessas estruturas contém 98 quadros de dados de canal, totalizando 98 × 24 = 2.352 bytes de música. O CD é reproduzido a uma velocidade de 75 quadros (ou setores) por segundo, ou seja, 44.100 amostras ou 176.400 bytes por segundo.

Na década de 1990, o CD-ROM e a tecnologia de extração de áudio digital (DAE) relacionada introduziram o termo setor para se referir a cada quadro de código de tempo, com cada setor sendo identificado por um número inteiro sequencial começando em zero e com faixas alinhadas nos limites do setor. Um setor de CD de áudio corresponde a 2.352 bytes de dados decodificados. O Livro Vermelho não se refere a setores, nem distingue as seções correspondentes do fluxo de dados do disco, exceto como "quadros" no esquema de endereçamento MSF.