Como definir e determinar o modo de edição de linha de comando do Bash?

Para set:

set -o vi

Ou:

set -o emacs

(definir um desativa o outro. Você pode fazer set -o vi +o vipara desarmar ambos)

Checar:

if [[ -o emacs ]]; then
  echo emacs mode
elif [[ -o vi ]]; then
  echo vi mode
else
  echo neither
fi

Essa sintaxe vem de ksh. O set -o vié POSIX. set -o emacsnão é (como Richard Stallman se opôs ao emacsmodo especificado pelo POSIX), mas muito comum entre as implementações de shell. Alguns shells suportam modos de edição extras. [[ -o option ]]não é POSIX, mas suportado por ksh, bash e zsh. [ -o option ]é suportado por bash, kshe yash(observe que -otambém é um operador OR binário para [).

Como sua pergunta é específica sobre o bash:

Para configurá-lo permanentemente para cada nova sessão:

echo 'set -o vi' >> ~/.bashrc

ou (recomendado), adicione (ou altere) uma linha em ./inputrc:

set editing-mode vi

Isso definirá o modo de edição do readline que é usado por vários outros programas além do bash.

É fácil desarmar ambas as opções:

shopt -ou vi emacs

Para definir um:

set -o vi

Ou

shopt -os vi

O mesmo para emacs. Configuração de videsarmes emacse vice-versa.

Para listar o estado:

$ shopt -op emacs
set +o emacs

$ shopt -op vi
set -o vi

Ou ambos ao mesmo tempo:

$ shopt -op emacs vi
set +o emacs
set -o vi

Para testar se viestá definido:

shopt -oq vi      &&   echo vi is set

Ou (sintaxe ksh):

[[ -o vi ]]        &&   echo vi is set

emacs:

shopt -oq emacs   &&   echo emacs is set

Ou:

[[ -o emacs ]]    &&   echo emacs is set

ou, para testar se nenhuma opção está definida:

! ( shopt -oq emacs || shopt -oq vi ) && echo no option is set

Há também bind -V | grep editing-mode.

man bashé enorme, mas vale a pena ler em profundidade.