Już na pocz. 1771 r. - a więc jeszcze przed dokonaniem I rozbioru Polski w 1772 r. - król pruski Fryderyk II polecił dokonać dokładnego rozpoznania kartograficznego ziem, które planował wcielić do Królestwa Prus. Jednocześnie pojawiła się idea połączenia kanałem Brdy (Wisły) i Noteci (Odry), którą wysunął pruski urzędnik drogowy Hermann Jawein, a następnie na pocz. 1772 r. namiestnik Obwodu Nadnoteckiego Franz von Brenkenhoff przygotował projekt budowy, zatwierdzony przez króla. Właściwe prace rozpoczęły się dopiero wiosną 1773 r. z udziałem ok. 500 robotników, mimo wcześniejszych nalegań króla. Jednak właśnie z uwagi na brak robotników (tereny wokół były wyludnione, sama Bydgoszcz była miasteczkiem liczącym ledwie ok. 800 mieszkańców, a Nakło 700), prace rozpoczęto dopiero teraz, po sprowadzeniu ich z różnych regionów Królestwa Prus, m.in. z Saksonii, Turyngii i Czech (łącznie ok. 6 - 10 tys. najemników). Przy budowie zginął niemal co czwarty w robotników; powodem było intensywne tempo prac i bardzo niekorzystne warunki terenowe: robotnicy często musieli całymi dniami pracowć zanużeni po szyję w wodzie.
Specjalnie dla potrzeb tej inwestycji powstały tartaki i cegielnie.
Król Fryderk Wielki i Franz Balthasar von Brenckenhoff w trakcie inspekcji budowy kanału, rys. L. Burger
Pierwszym etapem było wykopanie przekopu, czego dokonano we wrześniu 1773 r., a następnie rozpoczęto kopanie kanału zasilającego (obecnie to Kanał Górnonotecki) długości 16 km, mającego doprowadzać do głównego przekopu wodę z Noteci i jeziora Gopło.
Już po 18 miesiącach budowy - we wrześniu 1774 r. pierwsze łodzie towarowe przepłynęły Kanałem Bydgoskim (od strony Nakła do Bydgoszczy), chociaż jeszcze w następnym roku prowadzono pogłębianie dna i umacnianie śluz, których łącznie wybudowano 10.
Z uwagi na ciągłe kłopoty z zasilaniem kanału w wodę, jego zamulaniem i zarastaniem brzegów, podjęto w latach 1792-1806 modernizację: na podstawie planów inspektora Ernsta Conrada Pettersona prowadzono prace melioracyjne, umocniono niestabilne otoczenie sadząc wzłuż kanału drzewa, a w latach 1840-1852 przebudowano śluzy z drewnianych na murowane (ceglane).
Na pocz. lat 70. XX w. zdecydowano o zasypaniu wschodnie ok. 600-metrowego odcinka nieczynnego Starego Kanału Bydgoskiego. Na jego miejscu powstała arteria komunikacyjna - ul. Focha i rondo Grunwaldzkie.
W 2. poł. XIX w. gospodarka europejska ożywiła się, wzrosło zapotrzebowanie i znaczenie transportu wodnego, do którego wprowadzono statki parowe, zwiększające zdolność transportową. Dlatego m.in. w 1879 r. skanalizowano górną Noteć, w Bydgoszczy skanalizowano Brdę na odcinku między Kanałem Bydgoskim a Wisłą i zbudowano port drzewny, a w latach 1878-1882 trwały duże inwestycje modernizacyjne na Kanale Bydgoskim i drodze wodnej Wisła-Odra. W 1887-1889 przebudowano śluzę Nakło Wschód.
Śluza III na Starym kanale Bydgoskim, obecnie nie istnieje, zasypana wraz ze wschodnim odcinkiem Starego Kanału Bydgoskiego w latach 1969-1973.
Ostatnia wielka rozbudowa Kanału Bydgoskiego miała miejsce w latach 1909-1915 i wynikała z zatwierdzonego przez Królestwo Prus projektu budowy wielkiego Kanału Centralnego, który miał łączyć Ren z Odrą i Wisłą i stać się główną drogą wodną śródlądową Cesarstwa Niemieckiego dla dużych statków do 400 ton. W wyniku tego powstał nowy, ok. 1,6-km odcinek (z dwiema śluzami) wpadający do Brdy powyżej, a dalsza część dotychczasowego kanału została wyłaczona z eksploatacji, tworząc tzw. Stary Kanał Bydgoski o długości ok. 3 km (patrz wyżej). Jednak pełne wykorzystanie tej drogi wodnej stało się wkrótce niemożliwe z powodu wybuchu I wojny światowej.
W okresie międzywojennym natomiast znaczenie Kanału Bydgoskiego zdecydowanie spadło w związku z odrodzeniem państwa polskiego i przecięciu granicą polsko-niemiecką Noteci.
