Sarà proprio Adriano Celentano a suggerirgli di cambiare il suo nome da Albano in Al Bano.

Incide il suo primo disco, La strada, cover di un brano di Gene Pitney nel 1965 per la Fantasy, e comincia a esibirsi come spalla negli spettacoli di Adriano Celentano, senza però abbandonare il lavoro.

Nell'autunno 1965 partecipa alla manifestazione Ribalta per Sanremo e, pur non essendo vincitore, viene notato e messo sotto contratto dalla voce del padrone, che lo fa debuttare al Festival delle rose nel 1966 in coppia con Pino Donaggio con un brano scritto da quest'ultimo, Quando il sole chiude gli occhi.

Debutta anche in televisione, a Settevoci, gioco musicale condotto da Pippo Baudo, dove riesce a vincere per quattro settimane consecutive la prova dell'applausometro, un apparecchio che misura l'intensità degli applausi del pubblico in sala.

In una delle trasmissioni presenta Io di notte, una sua composizione con venature blues, che desta l'interesse di artisti affermati come Milva - che vorrà inciderne una sua versione - e della giovane promessa Roberta Mazzoni.

Nel 1967 ottiene il suo primo grande successo con la canzone Nel sole , finalista al Disco per l'estate, che raggiunge il primo posto nelle classifiche di vendita dei 45 giri.

La sua voce, dotata di un'enorme estensione, lo mette in luce e lo fa apprezzare dal pubblico e dalla stampa che parla di un "secondo Claudio Villa".

Nel sole diventa anche un film, che avrà per protagonista lui e la figlia di Tyrone Power e Linda Christian, Romina Power: tra i due si crea un legame sentimentale che sfocerà più tardi, nonostante l'opposizione delle rispettive famiglie, in un matrimonio.

La stessa canzone dà anche il titolo al suo primo LP, dove oltre ai successi del periodo vi è una versione della canzone La donna dell'amico mio di Roberto Carlos; al disco collabora come autore di alcuni testi Alessandro Colombini, che Al Bano ha conosciuto al Clan Celentano, e come arrangiatore Detto Mariano.

Vengono poi L'oro del mondo e Il ragazzo che sorride, quest'ultima con testo di Vito Pallavicini su musica di Mikis Theodorakis che si ispira ai tragici avvenimenti dell'insediamento del Regime dei Colonnelli in Grecia del 1967.

Quest'ultima canzone dà il titolo al suo secondo 33 giri, a cui collabora lo stesso staff del precedente.

Nel 1968 partecipa per la prima volta al Festival di Sanremo con La siepe (in coppia con la folk-singer americana Bobbie Gentry), che ottiene il premio speciale della critica; nel 1969 vince il Disco per l'estate con Pensando a te (titolo del suo terzo disco, ancora con Detto Mariano come arrangiatore), da tale disco sarà poi tratto pure il film Pensando a te dello stesso '69.

Ancora nell'estate del 1969 Al Bano riscuoterà grande successo come autore con l'hit Acqua di mare, interpretato da Romina Power e nel quale egli stesso compare come vocalist a sostegno.

Il 26 luglio 1970 sposa Romina Power da cui avrà quattro figli: Ylenia, nata nel 1970 e scomparsa nel 1994; Yari, nato nel 1973; Cristel, nata nel 1985; e Romina Jr., nata nel 1987.

Con Romina, Albano aveva già cominciato a condividere la carriera artistica, incidendo nel 1969, come poc'anzi detto, i cori di Acqua di mare e nel 1970 Storia di due innamorati, ispirato alla colonna sonora del film di René Clément Giochi proibiti.

Quest'ultima canzone è anche inserita nel suo quarto album, A cavallo di due stili, da ricordare perché è il primo disco in cui il cantante pugliese interpreta anche brani lirici accanto alle sue canzoni, ed infatti nel disco troviamo l' Ave Maria di Franz Schubert, il Mattino di Ruggero Leoncavallo ed una canzone, Angeli senza paradiso, con un testo scritto da Pallavicini su un'altra musica di Schubert.

Nell'album troviamo anche alcune cover di canzoni della tradizione napoletana: O sole mio, Core 'ngrato, O marenariello e Guapparia.

Torna a Sanremo nel 1971 con 13 storia d'oggi, celebre brano che verrà anche inciso da Claudio Baglioni; e nello stesso anno è semifinalista a Un disco per l'estate con "E il sole dorme tra le braccia della notte".

L'album successivo però viene pubblicato nel 1972, è intitolato come l'anno di uscita, ed ha come caratteristica principale che Al Bano è autore di tutte le musiche (tranne di una, la cover di Vogliamoci tanto bene di Renato Rascel).

In questi anni, inoltre, le sue canzoni vengono realizzate in altre lingue per i mercati esteri, e particolare successo riscuotono quelle in spagnolo pubblicate in America Latina.

Nel 1973 porta al successo una canzone scritta per lui da Bruno Lauzi, La canzone di Maria, che presenta nuovamente a Un disco per l'estate; il 33 giri seguente, Antologia, non è (nonostante il titolo) una raccolta, ma un disco in cui il cantante torna ad interpretare brani di musica classica, tra cui Addio alla madre di Pietro Mascagni, E lucean le stelle di Giacomo Puccini, Una furtiva lacrima di Gaetano Donizetti, Vesti la giubba di Ruggero Leoncavallo.

Dall'anno successivo inizia la collaborazione in pianta stabile con la moglie: formano una propria casa discografica, la Libra, propongono Dialogo (con cui partecipano a Un disco per l'estate nel 1975), e nel 1976 partecipano all'Eurofestival con We'll live it all again (Noi lo rivivremo di nuovo).

Nel 1981 è la volta di Sharazan mentre l'anno successivo sono a Sanremo con Felicità, che si classifica al secondo posto. Vincono il Festival nel 1984 con Ci sarà e nel 1985 sono di nuovo all'Eurofestival con Magic oh magic.

Altri successi sono del 1987: Nostalgia canaglia, terza a Sanremo, e Libertà. Segue Cara terra mia, ancora terza a Sanremo nel 1989. Nel 1991 la coppia propone al Festival Oggi sposi.