Поселения на территории Черновцов были уже в период неолита. В предместьях обнаружены поселения трипольской культуры, бронзового и железного веков. В окрестностях Черновцов обнаружены славянские памятники начала нашей эры (II—V вв.); в ранний исторический период здесь были поселения белых хорват и тиверцев (IX—XI вв.).

Укреплённое поселение на месте Черновцов, на левом берегу Прута, предположительно основал в XII в. галицкий князь Ярослав Осмомысл. Крепость с торгово-ремесленным поселением называлась Черн, или Чорный город, видимо, из-за чёрных деревянных стен. Развалины крепости сохранились возле современного села Ленковцы (ныне в городской черте). Крепость была разрушена в 1259 по требованию татарского темника Бурундая. Оставшиеся оборонительные валы продолжали использоваться для защиты; в XVII веке к ним добавили несколько бастионов, один из которых существует до сих пор.

Из-за частых паводков на низком левом берегу Прута новый город был построен на высоком правом берегу. После распада Галицко-Волынского княжества в середине XIV в. Черновцы переходили к Венгрии, Польше, пока в 1359 они не вошли в состав Молдавского княжества.

XV—XVIII вв.

Самое раннее письменное упоминание о Черновцах зафиксировано в грамоте о торговых привилегиях, которую молдавский господарь Александр Добрый выдал львовским купцам 8 октября 1408 года, где «у Черновцы» взималось «мыто черновское» (таможенная пошлина) [1]. В той же грамоте впервые упоминаются и некоторые другие города Буковины и Молдавии. Так же, имеет место упоминание о Черне в известном летописном «Списке русских городов дальних и ближних», который некоторые историки относят к периоду между 1387 и 1406 годами.

Город располагался на пересечении торговых путей из северо-западной Европы на Балканы и в Турцию. С 1457 г. здесь проводятся ярмарки. Во времена Стефана Великого Черновцы уже были городом: в 1476 известен уже целый административный район — «Черновская держава»; в документе 1490 г. Черновцы прямо именуются городом — «от место от Черновцех».

Однако в XV—XVI вв. город несколько раз разрушался и пришёл в упадок. С середины XV в. Молдавское княжество становится вассалом Османской империи. Город опустошался во время войн Молдавии с Польшей (1497, 1509, 1688), турками (1476 и 1714) и татарами (1626, 1646-50, 1672). Казаки (под предводительством Богдана Хмельницкого) побывали в Черновцах в 1650 и 1653. После поражения шведской армии Карла XII под Полтавой зимой 1709—1710 , преследуя шведскую армию и части примкнувших к шведам казаков Мазепы, впервые заняли Черновцы российские войска. Позже они снова в нём побывали в русско-турецкую войну 1735—1739. В 1762 в нём было около 200 деревянных домов и около 1200 жителей. К 1774 году здесь жило около 290 семей и было 3 деревянных церкви. Вследствие очередной русско-турецкой войны 1768—1774 Черновцы были снова заняты российскими войсками, а затем перешли во власть Австрии.

1775—1914. Австрия и Австро-Венгрия

В 1775 австрийская императрица Мария Терезия, воспользовавшись поражением турок в русско-турецкой войне 1768—1774, аннексировала Буковину вместе с Черновцами в империю Габсбургов.

С самого начала австрийского господства Черновцы стали центром всей Буковины: вначале военной администрации (1774—1786), затем гражданского управления: в 1786—1849 — Буковинского округа, входившего в состав Галичины, в 1849 — автономного края (коронованной провинции) Буковины. В 1864 Черновцы обрели полное местное самоуправление.

Переход из турецко-балканской в западноевропейскую сферу влияния положительно сказался на росте населения. Уже в 1779 в Черновцах было 3200 жителей, и это число росло благодаря притоку немцев (служащих, учителей, торговцев), а также украинцев и поляков из Галичины, евреев, румын и украинцев из Буковины. В 1783 в Черновцах созданы ремесленные цеха, с конца XVIII в. начала развиваться промышленность. В начале XIX в. была основана гимназия, построены церкви св. Параскевы (1814—1862) и грекокатолическая (1825—1830). С 1832 в Черновцах был установлен магистрат во главе с бургомистром.

С 1786 года в городе были учреждены две ярмарки, из которых особое значение приобрела ежегодная двухнедельная ярмарка, начинавшаяся в июле после Петрова поста в праздник св. Петра и Павла и получившая название Петровской ярмарки. В отчёте 1832 г говорилось: «Возле города вырос новый городок из палаток и шатров. Рядом с тысячами и тысячами овец, лошадей, коров и быков, рядом с товарами для удовлетворения простых потребностей, продавались и ценные предметы роскоши. Из многочисленных шатров звучит бурная цыганская музыка, сопровождаемая монотонным бегом молдавского танца или быстрыми скачками вальса или мазурки; четырнадцать дней ярмарки — это продолжительный, весёлый народный праздник, для спокойного наблюдателя являющий собой подлинное зрелище, привлекательное из-за его разнородности» [2]

Рост численности города Черновцов в XIX в. был стремительным. Так, в 1816 г всё население Черновцов составляло 5416 человек, в 1880 г — 45 600, в 1890 г — 54 171.

До 1848 года австрийские власти проводили политику различных ограничений и запретов для евреев: свободный переезд евреев в Черновцы отсутствовал, разрешение получали только ремесленники и земледельцы.

Революция 1848—1849 гг. в Австрийской империи устранила национальные ограничения, привела к автономии края и города и к обострению политического соперничества между украинским и румынским населением Буковины. В середине XIX в. началось и оживление экономического развития Черновцов (построена пивоварня, паровая мельница, винокурня, мебельная фабрика, в 1850 создана торговая палата, в 1877 — торговая биржа). В развитие Черновцов внесла вклад постройка железной дороги Черновцы — Львов (1866), в 1895 построена электростанция, в 1897 введён в действие электрический трамвай, в 1895—1912 — водопровод и канализация. Построены новые значительные здания: кафедральный собор (1844—1864), резиденция буковинского митрополита (1862—1882), армянская церковь (1869—1875), иезуитский костёл (1893—1894), еврейская реформистская синагога (1873—1879), городской театр (1904—1905). Черновцы обрели европейский вид (их часто называли «маленькой Веной»), хотя этот вид имела только центральная часть города. В 1895 в Черновцах работало свыше 2500 рабочих, а в 1910 в городе было 2140 ремесленников и 1400 торговцев.

До 1781 в Черновцах была только одна народная школа (румынская). Австрийская администрация открыла немецкую школу, а к 1869 было уже 6 школ с 26 учителями. Первая классическая гимназия основана в 1808, реальная — в 1869, учительская семинария мужская — в 1860, женская — в 1872. Во второй половине XIX в. основаны профессиональные школы: сельскохозяйственная, ткацкая, ремесленная, в 1827 — высшая теологическая. В 1875 на основе последней был создан основан Черновицкий университет с тремя факультетами: православной теологии, философии и права, носивший в то время имя Франца Иосифа.

В средних школах и в университете обучение велось на немецком языке, с 1851 украинский язык ввели как предмет изучения в гимназии, а затем и в учительской семинарии. С 1896 при другой немецкой гимназии был основан украинский отдел. В университете существовали кафедры украинского и румынского языка и литературы. Под конец австрийского господства в Черновицах были 4 народные школы с украинским языком обучения. С Черновицами тесно связана деятельность таких украинских писателей, как Ю. Федьковича, С. Воробкевича, О. Кобылянской. Организованная украинская общественная жизнь Черновиц начинается с основанием в 1869 общества «Руська Бесіда», политического общества «Руська Рада» (1870), студенческого общества «Союз» (1875).

В этих обществах вначале преобладали москвофильские тенденции, но с 1884 перевесили народовцы (Е. Пигуляк, О. Попович, С. Смаль-Стоцкий и другие), с того времени началось быстрое развитие украинского национального движения. С 1884 украинская общественно-культурная жизнь была сосредоточена в Украинском народном доме.

Правительство Австро-Венгрии было озабочено ростом могущества Российской империи и предприняло шаги для улучшения благонадежности населения, что предполагало искоренение русской культуры, начала проводиться государственная политика украинизации славянского населения. На фасаде городского дома красовались три огромных мраморных доски, в ознаменование 20-, 40- и 50-тилетия царствования Франца Иосифа. Надписи на таблицах были составлены на немецком, румынском и русском языках. На первых двух таблицах русский текст был составлен на чистом литературном русском языке. Франц Иосиф на них величался «Его Императорское Величество». Только на третьей таблице (1898) текст был составлен на украинском языке, и Франц Иосиф стал именоваться «Найяснійшим Паном» Восьмого мая 1910 года, буковинский губернатор закрыл все русские общества и организации: русскую бурсу для мальчиков, русскую бурсу для девушек, общество русских студентов «Карпаты» и общество русских женщин, которое содержало школу кройки и шитья. При этом правительство конфисковало все имущество организаций, в том числе и библиотеку общества русских студентов.

Евреи в последней трети XIX века составляли около трети населения города. Антиеврейские ограничения были отменены, австрийские власти были заинтересованы в притоке еврейского населения в город, полагая, что евреи, говорившие на идиш, будут проводниками немецкой культуры. Особенно поощрялась ассимилированная немецкоязычная еврейская интеллигенция, представители которой могли без ограничений занимать любые государственные должности. Евреи играли важную роль в экономической жизни города, основывая промышленные предприятия и банки, выступали спонсорами культурных мероприятий: так, вклад евреев в постройку комплекса зданий резиденции буковинского митрополита своеобразно отмечен на одном из зданий окантовкой из «звёзд Давида» вокруг купола, увенчанного крестом.

Из-за высокого процента еврейской интеллигенции в Черновцах были сильны позиции реформистского иудаизма. Реформистам принадлежал открытый в 1877 году «темпль» — реформистский храм (взорван немцами во время Великой Отечественной войны, позже — кинотеатр «Жовтень», ныне — кинотеатр «Черновцы»). Однако широкие «нижние» слои еврейского населения поддерживали ортодоксальный иудаизм, в том числе хасидизм. Между этими двумя течениями велась борьба за руководство общиной, но благодаря деятельности главного раввина Л. И. Игеля (1825—1892) было достигнуто компромиссное решение, и община не раскололась.

В 1908 в Черновцах состоялась первая международная конференция по языку идиш.

Характерной особенностью Черновцов конца XIX — начала XX века было отсутствие антагонизма между культурами в городе и их гармоничное сосуществование.

1914—1918. Первая мировая война

Во время Первой мировой войны Черновцы были трижды под российским контролем: (30.08.1914—21.10.1914; 26.11.1914—18.2.1915; 18.06.1916—02.08.1917). Власти Российской империи преследовали евреев (часть последних была эвакуирована в Чехию). Многие евреи, в том числе бургомистр Черновцов доктор С. фон Вайссельбургер, были высланы в Россию. Облегчение положения принесла февральская революция 1917, когда губернатором Буковины стал А. Лотоцкий. 25 октября 1918 года был создан «Украинский краевой комитет Буковины», а 3 ноября в Черновцах состоялось народное вече, на котором соревновательно выступили два мнения о необходимости присоединения к той или иной стране (выбор между Румынией и УНР), каждая из фракций отрядила соответствующую делегацию, первым был дан ответ правительства УНР с одобрением присоединения; 6 ноября украинцы взяли власть в городе, но уже 11 ноября, после подписания перемирия между Германией и странами Антанты, Черновцы были заняты румынскими войсками, а 28 ноября румынский Генеральный конгресс Буковины провозгласил воссоединение всей территории Буковины в составе Румынии.

1918—1940. Румыния

При румынской власти Черновцы остались административным центром Буковины. Невзирая на румынское преследование, город и дальше оставался центром украинской жизни на Буковине (как в северной, так и в южной её части). Кроме национально-культурных обществ, действовавших в период Австро-Венгрии, были основаны новые — «Буковинский Кобзарь», «Украинский Мужской Хор», «Украинский Театр». Также появились и спортивные общества «Довбуш» и «Мазепа». Существовало в Черновцах и отделение Украинской Национальной Партии. Издательская деятельность уменьшилась. Выходили еженедельники «Боротьба», «Рідний Край», «Рада» і «Самостійність», а также ежедневник «Час», журналы «Промінь» и «Самостійна Думка». Не чувствовалось нехватки украиноязычных книжных изданий.

В конце румынского периода Черновцы стали крупным экономическим центром. в 1936 году здесь работали 155 больших и 61 малое предприятие. В межвоенный период город интенсивно застраивался; было построено множество жилых и общественных зданий.

1939—1945. Вторая мировая война

В 1940 году, в соответствии с положениями Пакта Молотова-Риббентроппа, Буковина была разделена на Северную (отходившую к СССР) и Южную (остававшуюся в составе Румынии). Черновцы были заняты Красной Армией и вошли в состав УССР. В июле 1941 года город был занят румынскими войсками (воевавшими на стороне Германии) и административно вошёл в состав Румынии.

В период второй румынской оккупации в городе было создано еврейское гетто (в районе так называемого Нижнего города — в пределах теперешних улиц Головна, Сагайдачного, Барбюса, Садовского, Школьной), куда свозились евреи со всех окрестных населенных пунктов. Массовые расстрелы евреев и противников оккупационного режима осуществлялись на берегу р. Прут. Многие евреи были депортированы в Транснистрию (нынешняя территория ПМР и северной части Одесской области), также находившуюся под румынской оккупацией. Благодаря усилиям мэра Черновцов периода второй румынской оккупации Траяна Поповича, более 20 тысяч черновицких евреев избежали депортации и уничтожения.

В марте 1944 года Черновцы практически без боя снова были заняты Советской Армией.

1944—1991. СССР

После присоединения к СССР был взят курс на индустриализацию региона, были созданы машиностроительные и химические предприятия. Была создана сеть крупных приборостроительных заводов, в основном оборонного значения. Рост индустрии потребовал и подготовки соответствующих кадров, активно развивалась наука. Население города значительно увеличивалось, соответственно расширялись и географические границы. Город был крупным железнодорожным узлом; функционировал аэропорт.

Летом 1988 года в городе наблюдалась вспышка алопеции, которая привела к массовому облысению детей (порядка 100 человек). По одной из версий, во время следования автоколонны через центральную часть города было разлито ракетное топливо (были свидетельства очевидцев, будто бы солдаты в противогазах всю ночь мыли проезжую часть одной из центральных улиц города специальным раствором), правда никто так и не сумел объяснить, откуда в Черновцах ракетное топливо, даже транзитом, тем более что «очевидцы» говорили про военную автоколонну, идущую по достаточно узкой улице — при наличии ближних, более широких и гораздо более свободных от «очевидцев» путей. Истинную причину аллопеции пытался установить черновицкий историк и журналист В. А. Фрелих, однако в 1995 году он погиб при загадочных обстоятельствах (по всей видимости, был отравлен).

1991 — наши дни

На заре независимости Украины в Черновцах возник один из крупнейших во всей Восточной Европе оптовых рынков.

Ряд румынских политиков настаивает на возвращении северной Буковины (Черновицкой области, кроме Хотинского района) в состав Румынии.

Черновцы и Севастополь разделили первое место по итогам конкурса «Населенный пункт лучшего благоустройства и поддержки общественного порядка — 2008». Эти города признаны наиболее комфортными для проживания в категории «город с населением до миллиона человек». Организатором конкурса выступило министерство жилищно-коммунального хозяйства Украины.