В одинарных кавычках ('...') строка интерпретируется "как есть". Единственные escape-последовательности: \\ и \'.
В двойных кавычках ("...") работает интерполяция переменных и расширенные escape-последовательности (\n, \t, \$, \x41, \u{1F600}):
$name = 'World';
echo "Hello, $name\n"; // Hello, World + перевод строки
echo 'Hello, $name\n'; // Hello, $name\n (буквально)
echo "Item: {$arr['key']}"; // сложные выражения в {}
Одинарные кавычки чуть быстрее (нет парсинга переменных), но разница незначительна. Выбор - вопрос стиля.