Alcuni studiosi del passato, come il Buffon, lo volevano discendente dell'Alano, mentre il Reul lo considerava la miniaturizzazione del mastino.
Il Vircy, a tale proposito, era convinto che si dovesse somministrare dell'acquavite ai cuccioli di mastino affinché divenissero...Carlini!
Oggi tali fantasiose teorie non sono neppure prese in considerazione, mentre tutti sono concordi sull' origine cinese della razza. 
Una delle più significative testimonianze iconografiche è una pergamena cinese di presunta epoca Ch' ing in cui sono rappresentati piccoli cani di corte dove si riconoscono uno Shih-tzu, un Pechinese e un Carlino.
Il loro possesso era un'esclusiva dei membri della famiglia imperiale e degli alti dignitari di corte.
Non di rado li si può ritrovare sotto forma di cani-leone, principalmente realizzati in ceramica bianco turchese, risalenti alla dinastia dei Ming, posti in coppia all'ingresso dei templi con la funzione di allontanare gli spiriti negativi. Nel "celeste impero" il Carlino assunse diverse denominazioni, come foo, wo e chaing sze, mentre in Giappone fu chiamato pai dog.
In Cina le ruge sulla fronte dei Carlini sono state oggetto di varie credenze. Alcuni pensavano che raffigurassero il diamante dell' Imperatore, perchè, concentriche, formano il disegno di una pietra.
Il Principe Mark in Cina ha visto rappresentati nelle rughe dei cani due ideogrammi che esprimono massima distinzione e nobiltà. 
La sua diffusione in Europa si può far risalire al XVII sec., quando alcuni vascelli olandesi che facevano rotta verso l'estremo oriente trasportarono alcuni esemplari  nei Paesi Bassi.
Nel vecchio continente, seppur sotto diversi nomi, trovò accoglienza nelle maggiori corti d' Europa.
In Olanda lo battezzarono mopshond (mastino d' Olanda), in Germania venne chiamato mops ( musetto ), in Gran Bretagna lo soprannominarono pug o pug-dog, sulla cui etimologia esistono pareri discordanti.
Tuttavia i primi esemplari giunsero al seguito di Gugliemo III e Maria II provenienti dai Paesi Bassi per insediarsi sul trono inglese.
In Francia assunse invece i nomi di dogmus e roquet; solo in un secondo tempo, a causa del suo musetto scuro, fu ribattezzato Carlin, dal nome di una popolare maschera della commedia dell'arte, corrispondente al nostro Arlecchino, che alla fine del XVIII sec. era interpretata dall' attore italiano Carlo Bertinazzi.
Anche Giuseppina Beauharnais, moglie di Napoleone, aveva un Carlino, ma il Primo console non lo sopportava.
Giuseppina portò il cane nella camera nunziale fin dalla prima notte di nozze. Proprio in quell' occasione si dice che il Carlino si avventò alla gamba di Napoleone.
Il Carlino si chiamava Fortune e fu ucciso dal cane del cuoco; allora Giuseppina ne accolse subito un' altro al quale dette lo stesso nome.
Questa razza divenne il cane di casa Bonaparte e il fratello Luciano, che se ne invaghì più di tutti, ne allevò alcune decine.
In Occidente le testimonianze artistiche che documentano il suo rango sono innumerevoli; si pensi, solo per citarne due, al ritratto di Giorgio III d' Inghilterra conservato a Hampton Court o al ritratto del cane di Maria Antonietta moglie di Luigi XVI, opera del pittore di corte Oudry.
Passata l' epoca dei privilegi di casta, il Carlino ha vissuto alterni momenti di oblio e popolarità legandosi a vari personaggi della mondanità internazionale. Attualmente, in Italia, sta riscuotendo un discreto successo, anche se i paesi anglosassoni e nord europei in generale continuano a rappresentare un importante riferimento per tutti i cultori di questo piccolo grande cane.