Войско объединило пять казачьих полков (Кизлярский, Терско-Семейный, Моздокский, Гребенской, Горский) и пять казачьих полков Азово-Моздокской линии (Кавказский, Ставропольский, Хоперский, Кубанский, Волгский). Кавказское линейное казачье войско вместе с Черноморским казачьим войском занимало Кавказскую оборонительную линию от устья Терека до устья Кубани и вместе с Отдельным Кавказским корпусом участвовало в Кавказской войне (1817–1864 гг.). Общее управление возлагалось на назначаемого (наказного) атамана. Первым наказным атаманом был назначен генерал-майор Верзилин Петр Семенович (1791–1849). Штаб войска до 1837 г. располагался в Пятигорске в доме по адресу Горячеводская часть, квартал № I, Верхний переулок (ныне ул. Буачидзе, 9), затем – в станице Михайловской, позднее – в Ставрополе. Командовали войском, как правило, офицеры регулярной армии. В 1860 году из части Кавказского линейного казачьего войска было образовано Терское казачье войско, а другая часть вместе с Черноморским казачьим войском вошла в состав вновь созданного Кубанского казачьего войска.