컴퓨터구조의 전반적인 소개 (3) 컴퓨터 성능 향상 기법: CPU 시간, 클럭 속도, CPI, 명령어 수 최적화

1. Response Time and Throughput

• 응답 시간(Response Time)과 처리량(Throughput)은 컴퓨터 시스템의 성능을 평가하는 두 가지 중요한 지표.
• 응답 시간은 특정 작업을 시작하고 완료하는 데 걸리는 시간을 의미.
  • 예를 들어, 사용자가 클릭을 하고 그 결과를 보는 데까지 걸리는 시간이 이에 해당.
• 처리량은 단위 시간당 시스템이 수행할 수 있는 작업의 총량을 의미.
• 이는 시간당 처리할 수 있는 작업의 수나 트랜잭션의 수로 측정될 수 있다.
• 응답 시간과 처리량은 하드웨어 업그레이드에 의해 영향을 받을 수 있다:
• 프로세서를 더 빠른 버전으로 교체하는 경우:
• 응답 시간:
  • 더 빠른 프로세서는 각 작업을 처리하는 데 필요한 시간을 줄여줌.
  • 따라서 응답 시간이 개선.
• 처리량:
  • 더 빠른 프로세서는 단위 시간당 더 많은 작업을 처리할 수 있게 해줌.
  • 따라서 처리량이 증가.
• 프로세서를 추가하는 경우(멀티 프로세싱):
• 응답 시간:
  • 멀티 프로세싱은 특정 작업을 더 빠르게 완료할 수 있도록 해주지만, 모든 종류의 작업에서 응답 시간이 짧아지는 것은 아님.
  • 작업이 병렬로 처리될 수 있을 때 가장 효과적.
• 처리량:
  • 추가 프로세서는 시스템이 동시에 더 많은 작업을 처리할 수 있게 해주므로, 처리량이 크게 증가.
  • 특히 병렬 처리가 가능한 작업에서 그 효과가 두드러짐.
• 결론적으로, 프로세서를 빠른 버전으로 교체하거나 추가 프로세서를 도입하는 것은 응답 시간과 처리량을 개선하는 효과적인 방법이 될 수 있다.
• 그러나 실제 효과는 시스템의 구체적인 구성과 처리해야 할 작업의 종류에 따라 달라질 수 있다.

2. 성능

• 상대적 성능을 이해하기 위해서는 먼저 "성능"의 정의를 명확하게 해야 한다.
  • 여기서 성능은 실행 시간의 역수로 정의.
    • 즉, 성능 = 1 / 실행 시간.
      • 이는 실행 시간이 짧을수록 성능이 높다는 것을 의미.
  • "X가 Y보다 N배 빠르다"는 표현을 사용할 때, 이는 X의 실행 시간이 Y의 실행 시간보다 N배 더 짧다는 것을 의미.
  • 예를 들어, 어떤 프로그램을 A 컴퓨터에서 실행하는 데 10초가 걸리고, B 컴퓨터에서 실행하는 데 15초가 걸린 경우를 생각해자.
    • 이 때, B의 실행 시간을 A의 실행 시간으로 나누면, 15초 / 10초 = 1.5가 됨.
      • 이는 A가 B보다 1.5배 더 빠르다는 것을 의미.
• 따라서, 두 컴퓨터나 프로그램의 상대적 성능을 비교할 때는 실행 시간의 비율을 통해 그 차이를 명확히 할 수 있다.
• 이러한 방식은 다양한 컴퓨터 시스템이나 알고리즘의 성능을 비교하는 데 유용하게 사용.

3. 실행 시간 측정

• 실행 시간을 측정하는 것은 시스템의 성능을 평가하는 데 있어 매우 중요한 부분.
• 여기에는 크게 두 가지 주요 요소가 있다:
  • 경과 시간(Elapsed time)과 CPU 시간(CPU time).
    • 경과 시간:
      • 경과 시간은 사용자가 작업을 시작한 시점부터 완료될 때까지의 전체 반응 시간을 의미.
      • 이는 처리 시간, 입출력(I/O) 시간, 운영 체제의 오버헤드, 그리고 시스템의 대기 시간 등 모든 측면을 포함.
      • 따라서 경과 시간은 시스템의 전반적인 성능을 결정하는 데 사용.
    • CPU 시간:
      • CPU 시간은 주어진 작업을 처리하는 데 실제로 CPU가 소비한 시간을 의미.
      • 이는 입출력 시간이나 다른 작업의 처리 시간을 제외한 순수한 처리 시간.
      • CPU 시간은 사용자 CPU 시간(사용자가 작성한 프로그램이 CPU에서 실행되는 시간)과 시스템 CPU 시간(운영 체제가 작업을 지원하기 위해 사용하는 CPU 시간)으로 구분.
• 다양한 프로그램은 CPU와 시스템의 성능에 따라 서로 다르게 영향을 받음.
  • 예를 들어, 입출력을 많이 요구하는 작업은 입출력 시간이 CPU 시간보다 훨씬 큰 영향을 미칠 수 있으며, 반대로 계산 집약적인 작업은 CPU 성능에 더 크게 의존할 수 있다.
• 따라서 시스템의 성능을 정확하게 평가하고 비교하기 위해서는 경과 시간과 CPU 시간을 함께 고려해야 함.
• 이를 통해 프로그램이나 시스템의 성능 병목을 정확히 식별하고 개선할 수 있다.

4. CPU Clocking

• 디지털 하드웨어의 작동은 일정한 속도의 클럭에 의해 조절.
• 이러한 클럭은 디지털 회로 내에서 일어나는 모든 동작의 타이밍을 제어.
• 클럭 주기:
  • 클럭 주기는 클럭의 한 사이클이 지속되는 시간을 의미.
  • 예를 들어, 250ps(피코초)는 0.25ns(나노초) 또는 250×10^-12초와 같다.
    • 이는 클럭의 한 사이클이 완료되는 데 걸리는 시간을 나타냄.
• 클럭 주파수(속도):
  • 클럭 주파수는 초당 클럭 사이클의 수를 의미.
  • 예를 들어, 4.0GHz는 4000MHz 또는 4.0×10^9Hz와 동일.
    • 이는 하드웨어가 초당 40억 번의 클럭 사이클을 수행한다는 것을 의미.
• 클럭 주기와 클럭 주파수는 서로 역수 관계에 있다.
  • 즉, 클럭 주기가 짧을수록 클럭 주파수는 높아짐.
• 높은 클럭 주파수는 하드웨어가 더 많은 작업을 빠르게 처리할 수 있음을 의미하지만, 동시에 더 많은 전력을 소모하고 더 많은 열을 발생시키는 경향이 있다.
  • 따라서, 디지털 시스템 설계 시 클럭 속도와 전력 소비, 열 관리 사이의 균형을 고려하는 것이 중요.

5. CPU Time

• CPU 실행 시간(CPU 시간)은 CPU가 특정 작업을 수행하는 데 소요되는 시간을 의미.
  • 이 시간은 I/O(입출력) 대기 시간이나 다른 프로그램을 실행하는 데 소요되는 시간을 포함하지 않음.
• CPU 시간을 개선(즉, 감소)하는 방법은 크게 두 가지가 있다:
  • 클럭 사이클 수 줄이기:
    • 프로그램이 실행될 때 필요한 명령어의 수를 줄이면, CPU가 작업을 완료하는 데 필요한 전체 클럭 사이클 수가 감소.
    • 이는 최적화된 코드 작성이나 효율적인 알고리즘 사용과 같은 소프트웨어 측면에서의 개선을 통해 달성될 수 있습니다.
  • 클럭 속도(클럭 레이트) 증가:
    • CPU의 클럭 속도를 높이면, 단위 시간당 처리할 수 있는 클럭 사이클 수가 증가하므로, 더 빠른 성능을 얻을 수 있다.
    • 클럭 속도를 증가시키는 것은 주로 하드웨어의 변경이나 업그레이드를 통해 이루어짐.
• 하지만, 하드웨어 설계자는 종종 클럭 속도와 사이클 수 사이에서 트레이드오프(trade-off)를 고려해야 함.
• 클럭 속도를 높이면, 그만큼 더 많은 전력을 소모하고 발열이 증가할 수 있으므로, 이러한 요소들을 적절히 균형잡는 것이 중요.
• 또한, 사이클 수를 줄이기 위한 최적화가 클럭 속도 향상보다 더 효율적일 수 있는 경우도 있다.
• 따라서, 최상의 CPU 성능을 얻기 위해서는 이러한 요소들을 종합적으로 고려해야 함.

6. Instruction Count and CPI

• 프로그램의 명령어 수(Instruction Count)와 명령어당 평균 사이클 수(CPI, Cycles Per Instruction)는 프로그램의 성능을 평가하는 데 중요한 요소.
• 명령어 수(Instruction Count):
  • 이는 프로그램, 명령어 집합 아키텍처(ISA, Instruction Set Architecture), 그리고 컴파일러에 의해 결정됨.
  • 프로그램이 수행해야 할 작업의 종류와 양, 사용된 프로그래밍 언어, 컴파일러의 최적화 수준 등에 따라 달라짐.
• 명령어당 평균 사이클 수(CPI):
  • 이는 CPU 하드웨어에 의해 결정됨.
  • CPU가 각 명령어를 수행하는 데 필요한 평균 클록 사이클 수를 나타냄.
• 다양한 명령어들이 서로 다른 CPI 값을 가질 수 있기 때문에, 프로그램 내에서 사용되는 명령어의 혼합(Instruction Mix)에 따라 평균 CPI가 영향을 받게 됨.
  • 서로 다른 명령어들이 다른 CPI 값을 가지기 때문에, 어떤 명령어들이 더 자주 사용되느냐에 따라 전체적인 평균 CPI는 달라질 수 있다.
  • 예를 들어, 상대적으로 더 많은 사이클을 필요로 하는 명령어가 자주 사용되면 평균 CPI는 증가하게 되고, 이는 CPU가 프로그램을 실행하는 데 더 많은 시간이 필요하다는 것을 의미.
    • 따라서, 프로그램의 실행 시간을 개선하기 위해서는 명령어 수를 최소화하고, 더 효율적인 명령어들을 사용하여 CPI를 낮추는 것이 중요.

7. CPI 

• CPI (Cycles Per Instruction)을 좀 더 자세히 설명하자면, 다양한 지시 명령 종류(instruction classes)가 서로 다른 사이클 수를 요구할 때, 이를 종합한 가중 평균 CPI를 계산할 수 있다.
• 가중 평균 CPI 계산은 각 지시 명령 종류의 사용 빈도와 그 지시 명령이 요구하는 사이클 수를 고려하여 이루어짐.
  • 이는 전체 프로그램의 평균 CPI를 이해하는 데 중요한 요소.
• 예를 들어, 프로그램이 A, B, C 세 가지 유형의 지시 명령을 사용하고, 각각의 지시 명령이 각각 1사이클, 2사이클, 3사이클을 요구한다고 가정.
  • 만약 프로그램 전체에서 A 유형의 지시 명령이 전체 지시 명령의 50%, B 유형이 30%, C 유형이 20%를 차지한다면, 가중 평균 CPI는 다음과 같이 계산:
    • 가중 평균 CPI = (A의 비율 × A의 CPI) + (B의 비율 × B의 CPI) + (C의 비율 × C의 CPI) = (0.5 × 1) + (0.3 × 2) + (0.2 × 3) = 0.5 + 0.6 + 0.6 = 1.7
    • 이렇게 계산된 가중 평균 CPI는 1.7이 되며, 이는 프로그램이 평균적으로 각 지시 명령을 수행하는 데 1.7사이클이 필요함을 의미.

8. CPI Example

• 다른 컴파일된 코드 시퀀스를 사용하여 A, B, C 명령어 클래스를 이용하는 경우, 각 명령어 클래스의 사용 비율과 각 클래스의 명령어 개수(Instruction Count, IC)에 따라 전체 프로그램의 실행 효율성이 달라질 수 있다.

9. Performance Summary

• 성능은 다음 요소들에 따라 달라집니다:
• 알고리즘:
  • 알고리즘은 명령어 수(Instruction Count, IC)와 평균 명령어당 사이클 수(CPI, Cycles Per Instruction)에 영향을 줄 수 있다.
  • 효율적인 알고리즘은 필요한 명령어 수를 줄이고, 더 빠른 실행을 가능하게 함.
• 프로그래밍 언어:
  • 프로그래밍 언어 선택은 IC와 CPI에 영향을 줌.
  • 일부 언어는 특정 작업을 더 효율적으로 수행할 수 있는 구조를 가지고 있으며, 이는 프로그램의 전반적인 성능에 영향을 미침.
• 컴파일러:
  • 컴파일러는 코드를 기계어로 변환하는 과정에서 IC와 CPI에 영향을 줌.
  • 최적화 수준이 높은 컴파일러는 더 적은 명령어와 더 효율적인 명령어를 생성하여 프로그램 성능을 향상시킬 수 있다.
• 명령어 세트 아키텍처(Instruction Set Architecture, ISA):
  • ISA는 IC, CPI, 그리고 클럭 속도에 영향을 줌.
  • ISA는 프로세서가 어떤 종류의 명령어를 실행할 수 있는지, 각 명령어가 얼마나 많은 사이클을 필요로 하는지 결정.
  • 또한, 특정 ISA는 특정 유형의 작업에 더 적합할 수 있다.
• 결론적으로, 프로그램의 성능은 이러한 다양한 요소들의 상호작용에 의해 결정.
• 효율적인 알고리즘을 사용하고, 적합한 프로그래밍 언어와 컴파일러를 선택하며, 작업에 가장 적합한 ISA를 고려하는 것이 중요.
• 이러한 요소들을 최적화함으로써, 프로그램의 실행 시간을 단축하고 전반적인 성능을 향상시킬 수 있다.