במלחמת העולם הראשונה, שיחררו חיילים גרמנים את גז הכלור ממיכלי מתכת על חיילי בנות הברית בבלגיה. ענני גז ירוקים התפשטו מעל לחפירות של הצבא הצרפתי וגרמו למותם של 5000 חיילים. ריכוז נמוך ביותר של גז הכלור, כ-0.085%, מספיק לגרום מוות תוך כמה דקות. יחד עם זאת, בתנאים מבוקרים משמש גז הכלור כמטהר מקורות מים.

הכימאי היהודי פריץ האבר יכול להיחשב כאביה של הלוחמה הכימית. ביומה הראשון של מלחמת העולם הראשונה הוא התייצב כמתנדב לצבא הגרמני, קיבל דרגת סרן באופן זמני ומונה כראש האגף הכימי במשרד המלחמה. הבר פתח את עידן הלוחמה הכימית המודרנית והפך לאבי השימוש בגזים רעילים בשדות הקרב. הבר ארגן את הייצור ועבד ללא לאות לייצר מאות טונות של גז כלור ובבניית אלפי בלוני גז, אימן מחלקות חיילים מיוחדות לשימוש בגזים ופיקח אישית על הצבת הבלונים בחפירות. השימוש הראשון היה ב- 1915, ובו שוחררו כ-150 טון כלור, לאורך חזית של כ-5 קילומטר, בפרק זמן של כ-10 דקות וגרמו ל-15,000 נפגעים בקרב בעלות הברית.

למרות האמור לעיל, ניתן לומר כי כבר מן התקופה הקדומה ניסו בני האדם לשכלל את השימוש בחומרים שונים למלחמה, לדוגמה, השימוש בחִצִּים מורעלים, בזפת בוערת או באדים רעילים.

נשק כימי נחשב לנשק לא קונבנציונלי - נשק להשמדה המונית, שהשימוש בו אסור על פי אמנת ז'נבה. חרף זאת נעשה בו שימוש לעתים, ובמיוחד על ידי שליטים חסרי מעצורים. הדיקטטור האיטלקי בניטו מוסוליני השתמש בנשק כימי בפלישת איטליה הפשיסטית לאתיופיה, גמאל עבד אל נאצר נשיא מצרים עשה בו שימוש במלחמתו בתימן, וסדאם חוסיין שליט עיראק, השתמש בנשק כימי במלחמתו בכורדים תושבי צפון ארצו שלו.