단백질 사슬은 3차원 구조로 접히고 이는 아미노산 서열 사이에서 일어나는 비공유 결합에 의해 안정화된다. 단백질의 작용을 이해하는 데 중요한 개념은 다음과 같다. 단백질 기능은 3차 구조에서 비롯되고, 3차 구조는 단백질이 어떤 아미노산 서열로 이루어지는 가와 아미노산 선형 서열 사이의 비공유 결합에 의해 결정된다. 생물학적 기능과 구조에 대한 원리는 Johann von Goethe, Ernst Haeckel, D'Arcy Thompson과 같은 생물학자에 의해 정리되었으며, 생물학과 다른 학문 분야에도 영향을 주었다. 이들은 "형태는 기능을 따른다" 그리고 "형태가 기능이다"라는 명언으로 대표되는 20세기 초 유기물 구조학파에 영향을 주었다. 여기서 단백질의 구조를 4단계, 즉 1차, 2차, 3차, 4차 구조로 나누어 살펴보자.
단백질의 1차 구조는 아미노산의 직선 배열로 이루어져 있다
단백질은 20가지 아미노산으로 이루어진 중합체이다. 각각의 아미노산은 펩타이드 결합에 의해 가지 없는 일직선의 사슬로 연결된다. 한 아미노산의 아미노기와 다른 아미노산의 카복실기 사이에 펩타이드 결합이 형성되면 그 결과로 물 분자가 방출되기 때문에 이 반응은 일종의 탈수 반응이다. 아마이드 N, 알파 탄소, 카복실 C, 아미노산 잔기의 산소 원자들이 반복되어 단백질 분자의 골격을 이루고 여기에서 다양한 사이드 사슬 그룹이 뻗어 나온다. 이런 펩타이드 연결의 결과로 모든 아미노기는 알파 탄소 원자와 같은 쪽에 있기 때문에 골격은 보통 N에서 C 방향으로 방향성을 갖는다. 따라서 단백질의 한쪽 끝은 N-terminus를 가지고 있고 다른 쪽 끝은 C-terminus를 가지고 있다. 단백질 사슬의 서열은 관습적으로 왼쪽에 N-terminus 아미노산을 오른쪽에 C-terminus 아미노산을 쓴다. 그리고 아미노산을 1번에서부터 순서대로 번호를 매긴다.
단백질의 1차 구조는 단백질을 구성하는 아미노산 잔기의 직선적 배열, 즉 서열이다. 1950년대 초에 인슐린의 아미노산 서열이 최초로 밝혀졌으며, 현재까지 천만 개 이상의 단백질의 아미노산 서열이 밝혀졌고 그 숫자는 날마다 증가하고 있다. 아미노산의 합성에 의해 생성되는 이 사슬을 설명하는 데는 많은 용어들이 사용된다. 펩타이드 결합으로 연결된 특정 서열을 가지는 아미노산 사슬이 짧으면 올리고펩타이드 혹은 펩타이드라 하고, 더 길면 폴리펩타이드라고 한다. 펩타이드는 대개 20~30개보다 작은 숫자의 아미노산 잔기로 이루어진 데 반해 폴리펩타이드는 200~500개 잔기로 이루어진다. 지금까지 35,000개 이상의 잔기로 이루어진 근육 단백질 티틴이 가장 길다고 알려져 있다. 보통 특정한 3차원 구조를 형성하고 있는 폴리펩타이드 또는 폴리펩타이드 복합체를 단백질이라고 부른다.
2차 구조는 단백질 구조의 핵심 요소이다
단백질 구조의 두 번째 단계는 2차 구조이다. 2차 구조는 폴리펩타이드 사슬이 안정되게 공간에 배열된 구조로 단백질 골격 아마이드와 카복실기 사이가 수소 결합에 의해 연결되고 종종 반복되는 구조 패턴을 보인다. 하나의 폴리펩타이드는 서열에 따라서 사슬의 여러 위치에서 다양한 2차 구조를 가진다. 중요한 2차 구조에는 알파 헬릭스, 베타 시트, 짧은 U 모양 베타 턴이 있다. 폴리펩타이드의 어떤 부분은 앞에서 언급한 구조를 이루지는 않지만 뚜렷하고 안정된 모양을 가지기 때문에 불규칙한 구조를 가지고 있다고 말한다. 고정된 3차 구조를 가지지 않고 상당히 유동적인 폴리펩타이드 무작위 코일이라고 부른다. 보통 단백질의 경우 폴리펩타이드 사슬의 60%는 알파 헬릭스나 베타 시트로 존재하고 나머지는 불규칙한 구조, 또는 코일이나 턴 모양이다.
알파 헬릭스로 접힌 폴리펩타이드에서 골격은 나선형을 이루고 각 펩타이드 결합의 카복실기 산소 원자는 아미노산 사슬을 따라서 C-terminus 방향으로 4개의 잔기가 떨어진 아미노산의 아마이드 수소 원자와 수소 결합을 이룬다. 알파 헬릭스 안에서 헬릭스의 시작과 끝을 제외하고 모든 골격 아미노기와 카복실기는 서로 수소 결합을 이룬다. 이런 결합이 주기적인 배열을 이루기 때문에 헬릭스에서는 아미노기에서 카복실기 방향으로 방향성을 띤다. 왜냐하면, 모든 수소 수용기는 같은 방향성을 가지며, 그 결과 3.6 잔기마다 나선이 완전히 꼬이는 구조가 만들어지기 때문이다. 36 아미노산 길이의 알파 헬릭스는 10번 꼬이고 길이는 5.4nm이다.
알파 헬릭스에서 수소 결합한 아미노산은 안정된 배열로 인해 골격은 반듯한 막대 실린더 모양을 형성하고 사이드 사슬은 바깥쪽으로 돌출되어 있다. 단백질에서 특정 나선의 소수성 혹은 친수성 성질은 완전히 사이드 사슬의 특성에 따라 결정된다. 수용성 단백질의 경우 친수성 나선은 수용성 환경과 작용하기 쉽게 외부 표면에 위치한다. 반면에 소수성 나선의 경우는 접힌 단백질의 안쪽에 묻혀있다. 아미노산 프롤린은 알파 헬릭스 안에서 찾아보기 어렵다. 왜냐하면, 프롤린의 아미노기와 사이드 사슬의 탄소와의 공유결합 때문에 정상적인 수소 결합을 통해 골격을 안정화할 수 없기 때문이다. 고전적인 알파 헬릭스는 본질적으로 가장 안정적이고 단백질에서 가장 흔한 나선 형태이지만 더 단단하게 혹은 더 느슨하게 꼬인 변형 나선도 있다. 예를 들어 꼬인 코일이라고 불리는 특별한 나선의 경우 훨씬 조밀하게 꼬여있다.
또 다른 2차 구조인 베타 시트는 베타 가닥이 측면으로 쌓인 구조이다. 각각의 베타 가닥은 5-8 잔기 정도로 짧고 거의 완전히 펼쳐진 폴리펩타이드 조각이다. 알파 헬릭스의 경우 골격의 아미노기와 카복실기 간의 수소 결합이 가까운 잔기 사이에서 이루어지지만 베타 시트에서의 수소 결합은 가깝기는 하지만 독립된 베타 가닥의 골격 원자 사이에 일어나며, 베타 가닥의 골격과는 수직 방향으로 일어난다. 이런 서로 다른 베타 가닥은 조각 사이에 짧거나 혹은 긴 루프를 가지고 하나의 폴리펩타이드 사슬 안에 있기도 하지만, 여러 개의 폴리펩타이드로 구성된 단백질의 다른 폴리펩타이드 사슬에 있는 베타 가닥 사이에 수소 결합이 일어나기도 한다. 시트 안의 수소 결합은 베타 가닥을 붙잡고 있고 사이드 사슬은 위아래로 뻗어있다. 알파 헬릭스처럼 베타 가닥도 펩타이드 결합의 방향에 따라 방향성을 보인다. 따라서 인접한 베타 가닥은 같은 방향으로나 반대 방향으로 배열된다. 어떤 단백질의 경우 베타 시트가 결합 홈의 바닥이나 소수성 코어를 이루기도 한다. 막에 박혀있는 다른 단백질의 경우에는 베타 시트가 곡선을 그리면서 이온과 작은 분자들이 통과하는 친수성 중심 구멍을 형성한다.