余計なファイルをさくっと消したい、ということで折角 Ruby だし rake 使うか、ということで確認してみるに clean なターゲットはデフォで存在するらしい。
Rakefile を作成して以下を追加。
require 'rake/clean'
あと、Gemfile に以下を追加して
gem "rake"
bundle install すると rake clean できるようになりました。このためだけに rake 使うとか色々な意味で色々な方面から叱られそうですがご容赦頂ければ幸いです。