Как описать канал на луа

Для этого вам надо на русском языке сформулировать правила, по которым вы определяете, что есть канал.

Так как канал (как минимум) можно построить по 3-м точкам, я бы предложил следующий алгоритм:
1. Ищем последний фрактал (вверх или вниз) и обозначаем точка1.
2. Ищем такой же предпоследний фрактал и обозначаем точка2. Т.е. если на 1-м этапе нашли последний фрактал вверх, значит предпоследний тоже ищем вверх.
3. На интервале между точкой1 и точкой2 находим с обратной стороны минимум (максимум) цены и обозначаем точкой3.
4. По найденным 3 точкам строим канал.

СУВ Владимир.

Владимир, канал должен быть ровным, то есть три фрактала лежат так, что по ним можно провести прямую линию. Ваш алгоритм этот момент никак не описывает.

Нет. Предложенный вами алгоритм будет считать каналом любые лежащие рядом два фрактала.
Мне нужен алгоритм, который шерстит график на предмет наличия как минимум трёх (а лучше четырёх-пяти) идущих подряд фракталов, лежащих на одной прямой. И то же самое - 4 или 5 фракталов с противоположной стороны на противоположной параллельной прямой. И только тогда робот скажет: о, это же канал!
Я не вижу другого способа кроме как:
1. Измеряем количество свечек между двумя фракталами последним и предпоследним.
2. Считаем скорость от фрактала к фракталу: например 3,7789 пункта за таймфрейм.
3. Измеряем количество свечек между двумя фракталами: предпоследним и пред-предпоследним.
4. Считаем скорость между ними.
5. Если она близка к 3,7789, значит три подряд фрактала лежат на прямой линии.
6. В этом случаем проверяем аналогичные условия у верхних фракталов
7. Если верхние фракталы (три подряд) тоже лежат на прямой, измеряем параллельность двух прямых.
8. По факту параллельности-непараллельности делаем вывод о том канал это или нет. (Это может оказаться не каналом а сходящимся-расходящимся треугольником)