Жазба деректерде қарлұқтар біздің заманымыздың V ғасырындағы тирек тайпаларының құрамында кездеседі. Қытай деректерінде карлұктардың бұлак руы Алтай тауының баурайын мекендейтіндігі хабарланады.Ал VII ғасырдағы басындағы кытайдың Таншу әулеттік хроникасында қарлұқтардың түрік тілдес тайпалардың бір тармағы екендігі, олардың құрамында бұлақ, жікіл, ташлық деген тайпалардың бар екендігі көрсетілген. Бұл деректер қарлұқ тайпасының Түрік қағанатының құрамында болғандығын, түріктер батысқа қарай жылжығанда олармен бірге аттанып, Орта Азия жерінде дейін барғандығын аңғартады. Қарлұқ тайпаларының негізгі топтасқан жерлері Алтай тауынан Балқаш көліне дейінгі аралық. Арабтарға қарсы күрескенде Орта Азияның Тоқарстан жеріндегі қарлұқтар мен түргеш қағаны Сұлудың бірге соғысқаны белгілі. Бұдан Қарлұқ қағанаты құрылғанға дейінгі-ақ қарлұқ тайпаларының Орталық Азия жерінде өмір сүргендігі аңғарылады. Ал Күлтегін жазуындағы Қарлұқтарды қырып, басып алдық деген хабар қарлұқтардың Шығыс Түрік қағанатының құрамында да болғандығын білдіреді.Шамасы осы жеңілістен кейін қарлұқтардың және бір толқыны Жетісуға қарай жылжиды. Қарлұқтардың Жетісуға қарай жылжудағы және бір себебі Ұйғыр қағанатынан жеңілуі еді. Алтай тауынан Сырдарияның орталық ағысына дейінгі аймақты алып жатқан ірі тайпалар одағы – қарлұқтар Түргеш қағанатының әлсіреген жағдайы пайдаланып, 756 жылы билікті қолдарына алып , өздерінің мемлекетін құрды. Қағанаттың орталығы Суяб қаласы болды.