《每周评论》一九三四年第一四八期有《林损作联嘲胡适》一则：闻胡适演讲蔑视儒家，林损嘲为“狗之屁”，联嵌“适之”：“人生各有适，吾道竟何之。”横批“胡为乎”。胡适听说后，不甘示弱：“他自发于余窍耳，于我何损。”
胡适在一九一八年四月刊行的《新青年》杂志上发表《建设的文学革命论》，倡导“国语的文学，文学的国语”，林损撰万言《汉学存废问题》予以反驳。据陈谧《林损传》，该文“力辟其不可行者凡二十五事，玄同及适亦不敢谓非”，送他一个绰号“骨董”。在此背景下，林损还写了《天下文字必归六书论》《转注从戴说》《注音字母为灭汉学之原》等文，惜均已佚。
林损对白话文的态度，在一九一三年撰写的《说报》一文中可见一斑：“所谓文之工者，曰神理气味格律声色，八者咸备，即尔雅渊懿之文也。”“尔雅渊懿，则入人必深；粗犷鄙倍，则入人必浅。”“文与语分，此文章之所以离群而立也。”他举《列子》中“使龙发于余窍，子亦将承之”和《荀子》中“如以狐父之戈触牛矢”两句为例，如翻译成白话即“若公孙龙所发之屁，魏牟亦将食之”“硬棒触粪”，则“鄙倍极矣”“粗狂至矣”。但大势所趋，后来林损对白话文的态度也有所改观，他的学生徐英《林公铎先生学记》称《中国文学讲授发端》涉及文言与白话的关系，“白话之提倡与否，今所不论也，然要不能屏之于文之外，则似无可疑者”。