İBB Kütüphane ve Müzeler Müdürlüğü, koleksiyon geliştirme politikasıyla her yaşa ve her kesime hitap etmeyi hedeflemiştir. Kitap koleksiyonu da politika doğrultusunda geliştirilmekte ve zenginleştirilmektedir. Koleksiyon içerisinde tarih, edebiyat, siyaset bilimi, felsefe, araştırma-inceleme, sanat, bilişim, teknoloji, bilim, inanç, kişisel gelişim, kültürel miras, mimarlık ve tasarım kitapları, çocuk kitapları yer almaktadır. Açılan semt kütüphaneleri sayesinde bu koleksiyona İstanbullular yaşadıkları semtlerden kolayca erişebilmektedir.
Kitap koleksiyonunun yanı sıra nadir eserler koleksiyonu da oldukça zengindir. Bunlar arasında Muallim Cevdet yazmaları, tapu tahrir defterleri, vakıf defterleri ile tarih ve edebiyat alanından 1.130 eser bulunmaktadır. Osman Ergin yazmaları Osmanlıca, Arapça, Farsça ve yabancı dillerdeki matbu kitaplarla birlikte 2081 cilt içerisinde 5251 adet yazma eser mevcuttur. Koleksiyonda çeşitli bağışlar ve satın almalarla oluşmuş 8.454 cilt yazma eser bulunmaktadır. Bu bölümde Kurtuluş Savaşı notları, Osmanlı-Yunan Harbi, I. Dünya Savaşı Irak Cephesi notları gibi birçok farklı konuda yazma eserler dikkati çekmektedir.
Kütüphanenin en eski eserlerinden biri olan (H.724-M.1324) Orhan Gazi’nin Mekece Vakfiyesi'nin yanında, Osmanlı İmparatorluğu’nun ilk matbaası olan İstanbul Yahudi matbaasında basılan 8 adet İbranice kitap ve Müteferrika Matbaası’nda basılmış Vankulu Lügati başta olmak üzere Müteferrika Matbaası'nda basılan kitapların tamamı da koleksiyonda mevcuttur.
Türk kütüphanelerinin en zengin Ermenice eserlerine sahip olan Atatürk Kitaplığı’nın Ermenice eser bağışçılarından biri Osmanlı’nın Telgraf ve Posta Nazırlarından Oskan Mardikyan Efendi’dir.
Atatürk Kitaplığı harita arşivi ise İstanbul’un en büyük ve en eski harita arşividir. XVI. yüzyıla kadar uzanan harita arşivinde Sultan Abdülaziz dönemi Beyoğlu haritaları, Huber’in Beyoğlu planları, Jacques Pervititich’in sigorta haritaları, 1913-1914 yılları arasında İstanbul’un kamusal mimari yapılarını gösteren Alman Mavileri ve İstanbul’un ilk sigorta haritalarını yapan Charles Edouard Goad haritaları bulunmaktadır.
Osmanlı süreli basınının hemen hemen tüm gazetelerine, dergilerine ve Türkiye Cumhuriyeti’nin belli başlı süreli yayınlarına sahip olan Atatürk Kitaplığı, Vakayi-i Mısriye, Takvim-i Vekayi, Tercüman-ı Ahval, Ceride-i Havadis, Anin-i Mazlum, Mümeyyiz, Diyojen, Badiye ve Varlık gibi ilgi çekici koleksiyonlara sahiptir.
“Nadir Eserlerin Kataloglanması, Dijital Ortama Aktarılması ve Elektronik Ortamda Sunulması” projesiyle 4.881 yazma eserin görselleri tam nüsha halinde çevrimiçi ortamda ücretsiz olarak tüm üyelerle paylaşılmıştır.
Koleksiyonlar arasında Muallim Cevdet, Osman Ergin, Cevdet Paşa, Fatma Aliye Hanım, Laika Karabey, Muhsin Ertuğrul, Pertevniyal Valide Sultan, M. Seyfettin Özege, Milli Mecmua Sahibi Mehmet Mesih Bey, İbnü’l-Emin Mahmud Kemal İnal, Safiye Hüseyin Elbi, Celal Esat Arseven, Ernest Mamboury, Nurullah Ataç, Ali Sami Aközer, Hıfzı Tevfik Gönensay, Fahrettin Türkkan Paşa, Hüsrev Tayla gibi isimlerin koleksiyonları dikkat çeker.
Atatürk Kitaplığı Arapça, Rumca, Kürtçe, Boşnakça, Farsça, Arapça, Fransızca, İngilizce gibi 35 farklı dilde yayına sahiptir. Süreli yayınlar arasında gazete, dergi, istatistik, yıllıklar, bülten, takvim , rapor, tutanak bulunmaktadır. Ermeni harfli ve Ermenice eserlerin tamamı kataloglanmıştır.
Atatürk Kitaplığı, SALT gibi kurumlarla işbirliği yaparak kitaplığın koleksiyonlarında bulunan Osmanlı dönemi Fransızca basınının 1845-1930 yılları arası çıkan Fransızca gazete ve dergileri de kataloglayıp dijital ortama aktarmıştır.