לבחירת חומרי הגלם לנייר זכוכית יש השפעה מכרעת על הביצועים שלו. נייר זכוכית יבש משתמש בעיקר בחומרים שוחקים כגון אלומינה חום מותכת, אלומינה מותכת לבנה ואלומינה מותכת זירקוניה. חומרים שוחקים אלה מציעים יתרונות כמו יעילות טחינה גבוהה והדבקה מינימלית של שבבים, מה שהופך אותם לאידיאליים לטחינה יבשה. נייר זכוכית רטוב, לעומת זאת, משתמש בדרך כלל בחומרי שיוף של קורונדום או סיליקון קרביד, בעלי מרקם עדין יותר ומתאימים במיוחד לטחינת חפצים עדינים ועיבוד לאחר-. לכן, בעת בחירת נייר זכוכית, חיוני לבחור את סוג חומר הגלם המתאים בהתבסס על סביבת היישום והדרישות הספציפיות.