不能跟着别人做坏事的古语有以下几种表达：
“不跟坏人同流合污”：
这句话出自《论语》，意思是不能和坏人一起做损人利己的事，去谋取更大的利益，也不能让坏人利用你的善良去欺骗别人同时伤害到自己。
“同流合污”：
这个成语出自《孟子·尽心下》，原意是思想、言行与恶劣的风气、污浊的世道相合，多指跟着坏人一起做坏事。
“慎独”：
出自《中庸》，意思是在独自一人而无别人监视时，也要表里一致，严守本分，不做坏事，不自欺。
“害人之心不可有，防人之心不可无”：
这是一句民间俗语，意思是不能有伤害别人的坏念头，但是也要防备他人，警惕他人。
这些古语都表达了不能跟着别人做坏事的意思，强调了要保持自己的原则和道德准则，避免与不良人士交往，以免受到不良影响或伤害。