本发明公开一种建筑材料加工用除尘装置及其除尘方法，涉及建筑材料加工装置技术领域。该建筑材料加工用除尘装置及其除尘方法包括机架、抛光辊和除尘组件，机架的侧面贯穿且轴承设置有抛光辊，机架的内侧滑动卡接有除尘组件。该建筑材料加工用除尘装置将抛光辊、除尘组件与输送辊等结构整合到机架上，将压制好的预制板置于机架一侧，通过动力电机驱动的输送辊将预制板输送到抛光辊下方进行抛光，并通过设置在机架内侧，与抛光辊连接的除尘组件在抛光辊处形成气流，将打磨下来的粉尘吸进集尘箱内，进而避免粉尘扩散影响周围环境，从而不但避免工作环境受到污染，还避免静电引爆，以及后期雾化降尘设备造成的环境问题。