موسس آن حاج سید علی محمد وزیری در سال 1332 مقدمات تاسیس کتابخانه را با 1800 جلد کتب شخصی خویش فراهم کرد و در سال 1334 آن را به خلق یزد بخشید.کتابخانه ابتدا در گوشه ای از مسجد جامع کبیر بود تا اینکه در سال 1344 بنای جدید کتابخانه به همت و پشتکار موسس آن ساخته شد و در تاریخ 12/4/1348 در حالیکه کتابهای کتابخانه به 21268 جلد رسیده بود آن را به آستان قدس اهدا کرد.فهرست نسخ خطی آن در پنچ جلد موجود است. مجموعه کتابخانه تا سال 1376 به 125هزار جلد و مجموعه خطی آن به 4300 جلد رسید.