Não há reais evidências sobre a descoberta do café, mas há muitas lendas que relatam a sua possível origem.
Uma dessas lendas é a do jovem pastor Kaldi, que ao tomar conta do seu rebanho de cabras numa montanha seca e árida em Kaffa na Abissínia, hoje Etiópia, onde somente alguns arbustos conseguiram enraizar nas rochas, se deparou com o desaparecimento durante a noite dos seus animais pela montanha durante algumas horas, e que estes voltavam saltitantes.
Kaldi ficou sobressaltado, pois atribuía aquele comportamento a um possível espírito maligno. Numa dessas noites seguiu as cabras e viu-as pastarem com um notável prazer os pequenos bagos vermelhos que se encontravam num dos raros arbustos daquela zona. Após alguns minutos da ingestão, os animais começaram a dançar à luz da Lua.
Kaldi colheu alguns bagos também e comeu-os ficando na sua boca uma agradável sensação de frescura. O resultado foi inesperado: assim como os carneiros, Kaldi começou a dançar.
De volta à sua aldeia,Kaldi comentou sobre os frutos a um dos monges, que decidiu experimentá-los. O monge apanhou um pouco dos bagos e levou-os consigo até ao mosteiro. Ele começou a utilizar os frutos na forma de infusão, mas este chá teve um sabor nada apelativo, pelo que atirou os bagos para o fogo crepitante.
O cheiro dos grãos de café a tostar nas brasas foi de tal forma diferenciado, que o monge voltou a tentar uma infusão, mas desta vez com os grãos torrados moídos, o que resultou numa bebida deliciosa e aromática, e que o ajudava a resistir à fadiga enquanto orava ou nas suas longas horas de leitura. Esta descoberta espalhou-se rapidamente entre os mosteiros, originando uma procura pela bebida.
As evidências mostram que o café foi cultivado pela primeira vez em mosteiros islâmicos no Yemen.