O músico fez uma declaração para o  Rock God da BBC, The Rock Show With Johnnie Walker  (via Whiplash). De acordo com Kelliher, foi o fundador dos Ramones quem lhe ensinou algo muito importante sobre ser guitarrista.

“Quando eu era pequeno, todos os meus amigos e eu ouvíamos muito Van Halen, Scorpions e ZZ Top, e todos nós admirávamos esses guitarristas, mas eu não conseguia tocar o que eles tocavam.”

“Mas quando ouvi Johnny Ramone, percebi: “Uau, esse cara está apenas tocando um acorde, um acorde poderoso.” E eu rapidamente percebi que todo mundo estava fazendo errado; todo mundo está tentando ser Eddie Van Halen, quando eu digo, “Eu quero ser um músico. Se Johnny Ramone pode escrever duzentas canções com os mesmos três acordes, posso pelo menos escrever um par. E foi exatamente isso que eu fiz.”

Bill também disse que formou sua primeira banda aos 15 anos, e que eles começaram a tocar “canções fáceis” do punk rock, como sucessos dos Ramones. Ele continuou:

 

“Então Johnny Ramone realmente me ensinou isso, que você não precisa ser muito proficiente com a guitarra para ser um grande guitarrista. Os Ramones são um grupo incrível. Eu os vi ao vivo algumas vezes enquanto eu crescia no interior do estado de Nova York […] Tocar a guitarra de Johnny Ramone é como ligar uma serra circular, não desligá-la.

É por isso que acho que Johnny Ramone é um deus do rock”