Посібник із Java ExecutorService

1. Огляд

ExecutorService - це фреймворк, наданий JDK, який спрощує виконання завдань в асинхронному режимі. Взагалі кажучи, ExecutorService автоматично надає пул потоків та API для призначення йому завдань.

2. Екземпляр виконавчої служби

2.1. Заводські методи класу виконавців

Найпростіший спосіб створити ExecutorService - використовувати один із заводських методів класу Executors .

Наприклад, наступний рядок коду створить пул потоків з 10 потоками:

ExecutorService executor = Executors.newFixedThreadPool(10);

Існує ще декілька заводських методів створення заздалегідь визначеного ExecutorService, які відповідають конкретним випадкам використання. Щоб знайти найкращий спосіб для своїх потреб, зверніться до офіційної документації Oracle.

2.2. Безпосередньо створіть службу виконавця

Оскільки ExecutorService є інтерфейсом, можна використовувати примірник будь-якої його реалізації. У пакеті java.util.concurrent можна вибрати кілька реалізацій, або ви можете створити власну.

Наприклад, клас ThreadPoolExecutor має кілька конструкторів, які можна використовувати для налаштування служби виконавця та її внутрішнього пулу.

ExecutorService executorService = new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue());

Ви можете помітити, що наведений вище код дуже схожий на вихідний код заводського методу newSingleThreadExecutor (). У більшості випадків детальна ручна конфігурація не потрібна.

3. Призначення завдань службі ExecutorService

ExecutorService може виконувати Runnable і відкличні завдання. Щоб у цій статті все було простішим, буде використано два примітивні завдання. Зверніть увагу, що тут використовуються лямбда-вирази замість анонімних внутрішніх класів:

Runnable runnableTask = () -> { try { TimeUnit.MILLISECONDS.sleep(300); } catch (InterruptedException e) { e.printStackTrace(); } }; Callable callableTask = () -> { TimeUnit.MILLISECONDS.sleep(300); return "Task's execution"; }; List
    
      callableTasks = new ArrayList(); callableTasks.add(callableTask); callableTasks.add(callableTask); callableTasks.add(callableTask);
    

Завдання можуть бути призначені ExecutorService за допомогою декількох методів, включаючи execute () , який успадковується від інтерфейсу Executor , а також submit () , invokeAny (), invokeAll ().

Виконати () метод є недійсним, і це не дає можливості отримати результат виконання завдання або перевірити статус виконання завдання (як це працює або виконується).

executorService.execute(runnableTask);

уявити () подає Callable або Runnable завдання до ExecutorService і повертає результат типу майбутнього .

Future future = executorService.submit(callableTask);

invokeAny () призначає колекцію завдань ExecutorService, змушуючи виконати кожну з них, і повертає результат успішного виконання одного завдання (якщо було успішне виконання) .

String result = executorService.invokeAny(callableTasks);

invokeAll () призначає колекцію завдань ExecutorService, змушуючи виконувати кожну з них, і повертає результат усіх виконань завдань у вигляді списку об'єктів типу Future .

List
    
      futures = executorService.invokeAll(callableTasks);
    

Тепер, перш ніж йти далі, потрібно обговорити ще дві речі: вимкнення ExecutorService та справу з типом повернення Future .

4. Вимкнення служби виконавця

Загалом, ExecutorService не буде автоматично знищено, коли немає завдання для обробки. Він залишиться в живих і чекатиме на нову роботу.

У деяких випадках це дуже корисно; наприклад, якщо додатку потрібно обробляти завдання, які з’являються нерегулярно, або кількість цих завдань невідома під час компіляції.

З іншого боку, програма може досягти свого кінця, але вона не буде зупинена, оскільки очікуючий ExecutorService змусить JVM продовжувати працювати.

Для належного вимкнення ExecutorService ми маємо API shutdown () і shutdownNow () .

Метод shutdown () не спричиняє негайного знищення ExecutorService. Це змусить ExecutorService припинити приймати нові завдання та вимкнутись після того, як усі поточні потоки закінчать свою поточну роботу.

executorService.shutdown();

Метод shutdownNow () намагається негайно знищити ExecutorService , але це не гарантує, що всі поточні потоки будуть зупинені одночасно. Цей метод повертає список завдань, які очікують на обробку. Що робити з цими завданнями, вирішує розробник.

List notExecutedTasks = executorService.shutDownNow();

Одним з хороших способів завершити роботу ExecutorService (що також рекомендується Oracle) є використання обох цих методів у поєднанні з методом awaitTermination () . При такому підході ExecutorService спочатку припинить приймати нові завдання, потім чекатиме до певного періоду часу, поки всі завдання будуть виконані. Якщо цей час закінчується, виконання негайно зупиняється:

executorService.shutdown(); try { if (!executorService.awaitTermination(800, TimeUnit.MILLISECONDS)) { executorService.shutdownNow(); } } catch (InterruptedException e) { executorService.shutdownNow(); }

5. Інтерфейс майбутнього

The submit() and invokeAll() methods return an object or a collection of objects of type Future, which allows us to get the result of a task's execution or to check the task's status (is it running or executed).

The Future interface provides a special blocking method get() which returns an actual result of the Callable task's execution or null in the case of Runnable task. Calling the get() method while the task is still running will cause execution to block until the task is properly executed and the result is available.

Future future = executorService.submit(callableTask); String result = null; try { result = future.get(); } catch (InterruptedException | ExecutionException e) { e.printStackTrace(); }

With very long blocking caused by the get() method, an application's performance can degrade. If the resulting data is not crucial, it is possible to avoid such a problem by using timeouts:

String result = future.get(200, TimeUnit.MILLISECONDS);

If the execution period is longer than specified (in this case 200 milliseconds), a TimeoutException will be thrown.

The isDone() method can be used to check if the assigned task is already processed or not.

The Future interface also provides for the cancellation of task execution with the cancel() method, and to check the cancellation with isCancelled() method:

boolean canceled = future.cancel(true); boolean isCancelled = future.isCancelled();

6. The ScheduledExecutorService Interface

The ScheduledExecutorService runs tasks after some predefined delay and/or periodically. Once again, the best way to instantiate a ScheduledExecutorService is to use the factory methods of the Executors class.

For this section, a ScheduledExecutorService with one thread will be used:

ScheduledExecutorService executorService = Executors .newSingleThreadScheduledExecutor();

To schedule a single task's execution after a fixed delay, us the scheduled() method of the ScheduledExecutorService. There are two scheduled() methods that allow you to execute Runnable or Callable tasks:

Future resultFuture = executorService.schedule(callableTask, 1, TimeUnit.SECONDS);

The scheduleAtFixedRate() method lets execute a task periodically after a fixed delay. The code above delays for one second before executing callableTask.

The following block of code will execute a task after an initial delay of 100 milliseconds, and after that, it will execute the same task every 450 milliseconds. If the processor needs more time to execute an assigned task than the period parameter of the scheduleAtFixedRate() method, the ScheduledExecutorService will wait until the current task is completed before starting the next:

Future resultFuture = service .scheduleAtFixedRate(runnableTask, 100, 450, TimeUnit.MILLISECONDS);

If it is necessary to have a fixed length delay between iterations of the task, scheduleWithFixedDelay() should be used. For example, the following code will guarantee a 150-millisecond pause between the end of the current execution and the start of another one.

service.scheduleWithFixedDelay(task, 100, 150, TimeUnit.MILLISECONDS);

According to the scheduleAtFixedRate() and scheduleWithFixedDelay() method contracts, period execution of the task will end at the termination of the ExecutorService or if an exception is thrown during task execution.

7. ExecutorService vs. Fork/Join

After the release of Java 7, many developers decided that the ExecutorService framework should be replaced by the fork/join framework. This is not always the right decision, however. Despite the simplicity of usage and the frequent performance gains associated with fork/join, there is also a reduction in the amount of developer control over concurrent execution.

ExecutorService gives the developer the ability to control the number of generated threads and the granularity of tasks which should be executed by separate threads. The best use case for ExecutorService is the processing of independent tasks, such as transactions or requests according to the scheme “one thread for one task.”

In contrast, according to Oracle's documentation, fork/join was designed to speed up work which can be broken into smaller pieces recursively.

8. Conclusion

Even despite the relative simplicity of ExecutorService, there are a few common pitfalls. Let's summarize them:

Keeping an unused ExecutorService alive: There is a detailed explanation in section 4 of this article about how to shut down an ExecutorService;

Wrong thread-pool capacity while using fixed length thread-pool: It is very important to determine how many threads the application will need to execute tasks efficiently. A thread-pool that is too large will cause unnecessary overhead just to create threads which mostly will be in the waiting mode. Too few can make an application seem unresponsive because of long waiting periods for tasks in the queue;

Calling a Future‘s get() method after task cancellation: An attempt to get the result of an already canceled task will trigger a CancellationException.

Unexpectedly-long blocking with Future‘s get() method: Timeouts should be used to avoid unexpected waits.

Код цієї статті доступний у сховищі GitHub.